Presentación de la Coalición para la IA Segura: Un Proyecto de OASIS Open

Boston, MA – 18 de julio de 2024 – La Coalición para la IA Segura (CoSAI) fue anunciada hoy en el Foro de Seguridad de Aspen. Patrocinada por OASIS, un organismo global de estándares, CoSAI es una iniciativa de código abierto diseñada para proporcionar a todos los practicantes y desarrolladores la orientación y las herramientas necesarias para crear sistemas de IA seguros por diseño. CoSAI fomentará un ecosistema colaborativo para compartir metodologías de código abierto, marcos estandarizados y herramientas.

CoSAI reúne a una amplia gama de partes interesadas, incluidos líderes de la industria, académicos y otros expertos, para abordar el fragmentado paisaje de la seguridad en la IA. Los patrocinadores principales fundadores de CoSAI son Google, IBM, Intel, Microsoft, NVIDIA y PayPal. Otros patrocinadores fundadores incluyen Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI y Wiz.

Esta iniciativa tiene como objetivo mejorar la confianza y la seguridad en el uso y despliegue de la IA, abarcando la construcción, integración, despliegue y operación segura de sistemas de IA. Se centrará en mitigar riesgos como el robo de modelos, envenenamiento de datos, inyección de instrucciones, abuso a escala y ataques de inferencia. El proyecto busca desarrollar medidas de seguridad integrales que aborden los riesgos clásicos y únicos de los sistemas de IA.

CoSAI es una comunidad de código abierto dirigida por una Junta de Gobierno de Proyectos, que avanza y gestiona su agenda técnica general, y un Comité de Dirección Técnica de expertos en IA de la academia y la industria que supervisará sus áreas de trabajo.

La inteligencia artificial está transformando rápidamente nuestro mundo y tiene un potencial inmenso para resolver problemas complejos. Para garantizar la confianza en la IA y promover un desarrollo responsable, es crucial desarrollar y compartir metodologías que mantengan la seguridad al frente, identifiquen y mitiguen posibles vulnerabilidades en los sistemas de IA y conduzcan a la creación de sistemas seguros por diseño.

Actualmente, asegurar la IA y las aplicaciones y servicios de IA es un esfuerzo fragmentado. Los desarrolladores luchan con un mosaico de directrices y estándares que a menudo son inconsistentes y aislados. Evaluar y mitigar los riesgos específicos y prevalentes de la IA sin prácticas recomendadas claras y enfoques estandarizados es un desafío significativo incluso para las organizaciones más experimentadas.

Con el apoyo de líderes de la industria y expertos, CoSAI está preparada para hacer avances significativos en el establecimiento de prácticas estandarizadas que mejoren la seguridad de la IA y construyan confianza entre las partes interesadas a nivel mundial.

“CoSAI se fundó por la necesidad de democratizar el conocimiento y los avances esenciales para la integración y el despliegue seguros de la IA”, dijo David LaBianca, de Google, co-presidente de la Junta de Gobierno de CoSAI. “Con la ayuda de OASIS Open, esperamos continuar este trabajo y la colaboración entre las principales empresas, expertos y academias”.

“Estamos comprometidos a colaborar con organizaciones en la vanguardia de la tecnología de IA responsable y segura. Nuestro objetivo es eliminar la redundancia y ampliar nuestro impacto colectivo a través de asociaciones clave que se centren en temas críticos”, dijo Omar Santos, de Cisco, co-presidente de la Junta de Gobierno de CoSAI. “En CoSAI, aprovecharemos nuestra experiencia y recursos combinados para acelerar el desarrollo de estándares y prácticas robustas de seguridad de la IA que beneficiarán a toda la industria”.

Para comenzar, CoSAI formará tres áreas de trabajo y planifica agregar más con el tiempo:

1. Seguridad en la cadena de suministro de software para sistemas de IA: mejorando el seguimiento de la composición y procedencia para asegurar las aplicaciones de IA.
2. Preparando a los defensores para un panorama cambiante de ciberseguridad: abordando las inversiones y desafíos de integración en sistemas de IA y sistemas clásicos.
3. Gobernanza de la seguridad de la IA: desarrollando mejores prácticas y marcos de evaluación de riesgos para la seguridad de la IA.

Todos son bienvenidos a contribuir técnicamente como parte de la comunidad de código abierto de CoSAI. OASIS da la bienvenida a apoyo de patrocinio adicional de empresas involucradas en este espacio. Para más información, contactar a [email protected].

Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, Google, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal y Wiz han expresado su apoyo a CoSAI, destacando su compromiso con el desarrollo de normas y prácticas de seguridad de IA que fomenten la innovación y la confianza en estos sistemas a nivel global.

vía: Oasis Open News