Check Point Software ha realizado un llamado urgente a los gobiernos y al sector privado para implementar regulaciones y controles de seguridad antes de que se produzcan desastres provocados por tecnologías autónomas. Este requerimiento se inscribe en el creciente debate sobre la regulación de la inteligencia artificial, un tema que ha ganado relevancia tras las recientes declaraciones de la compañía Anthropic, que abogan por la necesidad de integrar un sistema de apagado de emergencia, también conocido como «kill switch».
La empresa, reconocida por su liderazgo en soluciones de ciberseguridad, advierte que la adopción de tecnologías autónomas en servicios públicos e infraestructuras críticas presenta nuevos riesgos operativos que requieren atención inmediata. La ausencia de un marco legal adecuado podría desencadenar situaciones peligrosas, especialmente si estos sistemas automatizados experimentan fallos o son blanco de ciberataques.
Mario García, director general de Check Point Software para España y Portugal, destaca la importancia de legislar la incorporación de un botón de apagado de emergencia que permita desactivar la IA cuando las circunstancias lo hagan necesario. «La tecnología autónoma tiene el potencial de revolucionar nuestra economía, pero también es fundamental establecer controles y contrapesos, especialmente en áreas tan sensibles como los servicios públicos», enfatiza García.
El directivo también plantea importantes interrogantes sobre la responsabilidad del botón de apagado, cuestionando si esta debería recaer en el proveedor tecnológico, el gobierno o los legisladores. García resalta la importancia de definir claramente cómo funcionaría esta herramienta, ya sea deshabilitando flujos de trabajo automatizados o poniendo en cuarentena agentes de IA específicos.
Además, sugiere que la implementación de estas medidas de seguridad debe enfocarse inicialmente en la infraestructura crítica nacional, para luego expandirse una vez que el modelo esté consolidado. Aunque estas reglas pueden integrarse mediante código y comandos, advierte que las implementaciones a gran escala se convierten en un objetivo atractivo para los ciberdelincuentes.
Por lo tanto, tanto en el sector público como en el privado, es esencial que la seguridad se integre desde la fase de diseño de estos sistemas, evitando la tentación de aplicar soluciones apresuradas tras la aparición de problemas relacionados con la inteligencia artificial.
