Boston, MA 26 de junio de 2025 – La Coalición para la IA Segura (CoSAI), un proyecto abierto de OASIS dedicado al avance de la seguridad en inteligencia artificial, ha dado la bienvenida a Palo Alto Networks y Snyk como patrocinadores principales. Esta colaboración refuerza la red en expansión de CoSAI, que ya cuenta con 45 organizaciones asociadas comprometidas con el desarrollo de una IA segura y confiable. Este crecimiento acompaña la intensificación del liderazgo técnico de CoSAI con la publicación de un documento centrado en la seguridad de la cadena de suministro de software para IA y el lanzamiento de un nuevo flujo de trabajo dedicado al diseño de sistemas agenticos seguros, abordando las implicaciones de seguridad de sistemas de IA cada vez más autónomos.
El apoyo de la industria se amplía
«Proteger la IA es uno de los desafíos más urgentes para el sector en la actualidad», afirmó Sam Kaplan, Asistente del Asesor General en Política Pública y Asuntos Gubernamentales de Palo Alto Networks. «Al unirnos a CoSAI, en Palo Alto Networks estamos orgullosos de apoyar la colaboración abierta que empodera a los desarrolladores para integrar la seguridad desde el principio».
Manoj Nair, Director de Innovación de Snyk, agregó: «A medida que la IA transforma el panorama de la ciberseguridad, los estándares de seguridad proactivos son esenciales. Snyk está entusiasmado de contribuir a los esfuerzos crecientes de CoSAI para desarrollar herramientas prácticas y abiertas para una adopción más segura de la IA».
Palo Alto Networks y Snyk se unen al distinguido grupo de Patrocinadores Principales de CoSAI – incluyendo EY, Google, IBM, Microsoft, NVIDIA, PayPal, Protect AI, Trend Micro y Zscaler – con el objetivo común de acelerar el desarrollo de una IA segura y responsable en todos los sectores.
Nuevo documento sobre riesgos de seguridad en la cadena de suministro de IA
El primer documento de análisis de CoSAI, «Establecer Riesgos y Controles para la Cadena de Suministro de IA», fue desarrollado mediante la colaboración intersectorial para ayudar a los equipos a integrar la seguridad en cada etapa del ciclo de vida de los sistemas de IA, desde el diseño hasta el despliegue. Publicado por el Workstream 1 de CoSAI, el documento examina los riesgos únicos de la cadena de suministro de los sistemas de IA y subraya la necesidad de medidas de protección especializadas más allá de las prácticas de seguridad tradicionales. También identifica vulnerabilidades clave, roles de los grupos interesados y evalúa marcos existentes como SAIF, MITRE ATLAS y OWASP AI Exchange para identificar brechas y guiar hacia un desarrollo de IA más resiliente y seguro.
«Este documento es un avance significativo en la seguridad de la IA, ofreciendo una visión integral de los riesgos y estrategias de protección prácticas», dijo Matt Maloney, Gerente del Personal Técnico en Cohere y Líder del Workstream 1 de CoSAI. «Es un recurso importante que mapea los riesgos de la cadena de suministro y destaca dónde los controles tradicionales son insuficientes», añadió Andre Elizondo, Ingeniero Principal de Soluciones en Wiz y Líder del Workstream 1 de CoSAI. Ambos enfatizaron la evolución del documento junto con las tecnologías emergentes de agentes de IA.
Lanzamiento de un nuevo flujo de trabajo sobre diseño seguro de sistemas agenticos
Para abordar la creciente necesidad de enfoques de diseño seguro para la IA autónoma, CoSAI ha lanzado el Workstream 4: Patrones de Diseño Seguro para Sistemas Agénticos. Este nuevo enfoque se centra en desarrollar modelos de seguridad y guías arquitectónicas para sistemas agenticos, incluyendo actualizaciones al modelado de amenazas para IA, diseño de infraestructura segura e integración intersistemas.
La adición del Workstream 4 complementa los tres flujos de trabajo existentes de CoSAI:
– Workstream 1: Seguridad de la Cadena de Suministro de Software para Sistemas de IA
– Workstream 2: Preparación de Defensores para un Paisaje Cambiante de Ciberseguridad
– Workstream 3: Gobernanza de Riesgos de Seguridad de IA
«El lanzamiento de un flujo de trabajo centrado en el Diseño Seguro de Sistemas Agénticos refuerza el compromiso de CoSAI con la complejidad creciente de los sistemas autónomos impulsados por IA», señalaron Sarah Novotny, Consultora Independiente, e Ian Molloy, Jefe de Departamento de Seguridad de IA en IBM Research. «A medida que los sistemas agenticos se vuelven más capaces y omnipresentes, se vuelve crítico asegurar que estén construidos sobre una base de seguridad, transparencia y responsabilidad».
Participación e invitación
CoSAI invita a contribuyentes técnicos, investigadores y organizaciones a participar en su comunidad de código abierto y a apoyar su trabajo en curso. OASIS también da la bienvenida a más patrocinadores de empresas involucradas en este ámbito. Para más información, contactar a [email protected].
Consultas de prensa: [email protected]
vÃa: Oasis Open News
