El próximo 24 de abril de 2025, a las 12 p.m. EST, se desarrollará un evento en línea que pondrá en el foco de discusión un tema clave en la actualidad del ecosistema empresarial: la seguridad de las aplicaciones de inteligencia artificial generativa ante los ataques de inyección de comandos. En un mundo donde las empresas avanzan aceleradamente en la integración de la inteligencia artificial generativa en sus sistemas y flujos de trabajo, los adversarios están descubriendo nuevas maneras de aprovechar los modelos de lenguaje mediante tácticas que buscan filtrar datos sensibles y sortear las barreras de seguridad implementadas.
La sesión contará con la participación distinguida de Rob Truesdell, Director de Producto de Pangea, quien abordará el panorama cambiante de las amenazas relacionadas con las inyecciones de comandos. Truesdell ampliará en las estrategias más innovadoras para proteger las aplicaciones de IA generativa. Los participantes tendrán la oportunidad de comprender el funcionamiento de estos ataques, acompañados de ejemplos reales que reflejan las técnicas tanto directas como indirectas empleadas por los atacantes.
En este evento también se explorará el esfuerzo de los proveedores de modelos de lenguaje en la implementación de defensas nativas que contrarrestan los riesgos de la inyección de comandos. Además, se discutirá la diferencia fundamental entre las amenazas internas y externas, analizando cómo los atacantes pueden manipular los modelos de IA generativa desde dentro y fuera de una organización.
El enfoque principal del evento será la mitigación de riesgos, presentando las mejores prácticas en ingeniería y seguridad para prevenir, detectar y reaccionar ante intentos de inyección de comandos. Se proporcionarán pautas detalladas sobre cómo evaluar la efectividad de los mecanismos de detección de estos ataques.
Esta sesión está diseñada para ser de vital importancia para líderes de seguridad, ingenieros de inteligencia artificial y equipos de producto que buscan comprender profundamente y mitigar los riesgos asociados con las aplicaciones basadas en IA en un entorno que se torna cada vez más hostil. Para aquellos que no puedan asistir en la fecha programada, se ofrecerá la opción de registrarse para recibir una grabación de la sesión directamente en su correo electrónico.
