Check Point Software ha lanzado un llamado de atención dirigido tanto a los gobiernos como al sector privado, destacando la urgente necesidad de establecer regulaciones y medidas de seguridad antes de que las tecnologías autónomas provoquen desastres. Esta advertencia se produce en medio de un creciente debate sobre la regulación de la inteligencia artificial, un tópico que ha cobrado mayor relevancia tras las recientes declaraciones de la empresa Anthropic, que abogan por la incorporación de un sistema de apagado de emergencia, conocido popularmente como «kill switch».
La reconocida empresa de ciberseguridad enfatiza que la implementación de tecnologías autónomas en servicios públicos e infraestructuras críticas introduce nuevos riesgos operativos que demandan una atención inmediata. La ausencia de un marco legal adecuado podría desembocar en situaciones peligrosas, especialmente si estos sistemas automatizados sufren fallos técnicos o se convierten en blanco de ciberataques.
Mario García, director general de Check Point Software para España y Portugal, ha destacado la necesidad de legislar para incluir un botón de apagado de emergencia que posibilite desactivar la inteligencia artificial en situaciones críticas. Según García, «la tecnología autónoma tiene el potencial de transformar nuestra economía, pero es fundamental establecer controles y contrapesos, particularmente en sectores tan sensibles como los servicios públicos».
El directivo plantea interrogantes importantes sobre la responsabilidad de este botón de apagado, cuestionando si esta debe recaer en el proveedor tecnológico, en las autoridades gubernamentales o en los organismos legislativos. Además, García hace énfasis en la importancia de definir claramente el funcionamiento de esta herramienta, ya sea desactivando flujos de trabajo automatizados o aislando agentes de IA específicos.
García también menciona que la implementación de estas medidas de seguridad debería enfocarse inicialmente en la infraestructura crítica nacional, extendiéndose posteriormente una vez que el modelo sea probado y consolidado. Aunque estas reglas podrían integrarse mediante código y comandos, advierte que la implementación a gran escala se transforma en un objetivo tentador para los ciberdelincuentes.
Por este motivo, tanto el sector público como el privado deben asegurarse de que la seguridad sea un pilar desde el diseño inicial de estos sistemas, evitando la improvisación en el desarrollo de soluciones tras la ocurrencia de problemas vinculados a la inteligencia artificial. La proactividad y la prevención son claves para mantener bajo control los riesgos asociados a estas tecnologías emergentes.
