El próximo 24 de abril de 2025 a las 12 p.m. EST, un evento en línea se convertirá en un punto de reunión crucial para abordar uno de los desafíos más apremiantes en el mundo corporativo moderno: la protección de aplicaciones de inteligencia artificial generativa frente a ataques de inyección de comandos. En un momento en que las empresas integran con rapidez y eficacia la inteligencia artificial generativa en sus operaciones, los atacantes están aprovechando oportunidades para socavar estos sistemas, explotando vulnerabilidades para filtrar información sensible y eludir medidas de seguridad.
La sesión contará con la experiencia de Rob Truesdell, Director de Producto de Pangea, quien guiará a los participantes a través de la evolución continua de las amenazas de inyección de comandos. Los asistentes tendrán la oportunidad de adquirir conocimientos sobre el funcionamiento de estos ataques, con ejemplos del mundo real que expondrán tanto las técnicas directas como las indirectas empleadas por los hackers.
Un punto central de la discusión será el debate sobre las medidas que los proveedores de modelos de lenguaje están implementando para desarrollar defensas nativas que contrarresten estos riesgos. Además, se examinará la distinción entre amenazas internas y externas, profundizando en cómo los adversarios pueden manipular modelos de inteligencia artificial generativa desde dentro y fuera de las organizaciones.
El evento no solo abordará la identificación de problemas, sino que también se enfocará en las estrategias más efectivas para mitigar riesgos, presentando las mejores prácticas de ingeniería y seguridad para prevenir, identificar y contrarrestar intentos de inyección de comandos. Los participantes recibirán directrices sobre cómo evaluar la eficacia de los mecanismos de detección de inyección de comandos.
Diseñada para ser esencial para líderes de seguridad, ingenieros de inteligencia artificial y equipos de desarrollo de productos, esta sesión brindará un entendimiento profundo de cómo gestionar y reducir los riesgos asociados con las aplicaciones de inteligencia artificial en un entorno que se torna cada vez más adverso. Aquellos interesados que no puedan asistir en vivo podrán registrarse para obtener una grabación de la sesión, que se les enviará directamente por correo electrónico.
