La llegada de sistemas de inteligencia artificial (IA) autónomos está transformando la manera en que gestionamos el riesgo tecnológico, colocando el factor humano en el centro de las defensas. Román Orús, Co-Fundador y Director Científico de Multiverse Computing, advierte sobre la necesidad de redefinir este enfoque, señalando que «los modelos se entrenan para cumplir objetivos, pero no tienen el contexto del ser humano».
La IA ha evolucionado más allá de ser simplemente una herramienta que responde preguntas o genera contenido. A partir de 2026, con la introducción de la IA agéntica, sistemas avanzados serán capaces de recibir un objetivo y planificar cómo alcanzarlo, actuar y adaptar su estrategia de manera autónoma. Este desarrollo plantea un reto considerable en términos de seguridad tanto para organizaciones como para individuos, ya que estos sistemas operan sin necesidad de instrucciones detalladas, lo que les permite tomar decisiones imprevistas.
El reciente encuentro organizado por TIER8, una empresa española especializada en neurociencia y ciberseguridad inmersiva, junto con ISMS Forum, reunió a expertos de diversas instituciones para discutir las implicaciones de la rápida evolución de la IA. Esta nueva tecnología, con su capacidad para identificar vulnerabilidades y adaptarse constantemente, está generando una creciente brecha entre las capacidades de ataque y la habilidad de las organizaciones para responder de manera eficaz.
Román Orús señala que la IA se desarrolla a una velocidad que supera nuestra capacidad de asimilación, lo que exige la implementación de nuevas capas de control y gobernanza. A su vez, Sergio Padilla, miembro de la Junta Directiva de ISMS Forum, enfatiza la urgencia de no solo reaccionar rápidamente ante incidentes, sino de anticipar y gestionar futuros riesgos de manera más proactiva.
El riesgo técnico, aunque significativo, es solo una parte del problema, ya que el factor humano representa un desafío igual de importante. La discusión ahora se centra en hasta qué punto estamos dispuestos a permitir que estos sistemas autónomos interpreten la realidad y tomen decisiones en nuestro lugar. Orús insta a fomentar un pensamiento crítico en la sociedad, resaltando la importancia de que la IA sea utilizada como herramienta de apoyo, y no como un reemplazo de la toma de decisiones humanas.
Además, la introducción de agentes de IA transforma la percepción del riesgo humano en ciberseguridad. Ya no se trata solo de amenazas estandarizadas, sino de ataques personalizados y persistentes. TIER8 destaca la necesidad de anticiparse a estos nuevos escenarios, subrayando la necesidad de entrenar a los usuarios en un entorno donde mantener el control sobre las decisiones será cada vez más crucial.
En definitiva, la aparición de la IA agéntica requiere un cambio significativo en la forma en que concebimos la ciberseguridad, tanto a nivel técnico como humano. La clave radica en desarrollar una estrategia que combine la capacidad defensiva de la inteligencia artificial con un entrenamiento adecuado para los usuarios, en un mundo donde la capacidad de reconocer el engaño se convierta en un desafío cada vez más complejo.
