Fiddler AI, una empresa innovadora en el campo de la observabilidad de inteligencia artificial (IA) y seguridad para modelos de lenguaje de gran tamaño (LLM) y operaciones de aprendizaje automático (MLOps), se ha comprometido a mejorar el mundo a través de sus tecnologías. En el reciente Generative AI Summit celebrado en Washington D.C., Nick Nolan, gerente de ingeniería de soluciones de Fiddler AI, compartió detalles sobre cómo están avanzando en esta misión.
La empresa se centra en generar confianza en los sistemas de IA, abordando dos áreas cruciales: ayudar a los equipos empresariales a desarrollar aplicaciones de IA responsables y garantizar que las interacciones con estas tecnologías resulten en respuestas justas y seguras. Con el avance de la IA en el ámbito del contenido, se anticipa la introducción de regulaciones más estrictas que aborden la gobernanza, el riesgo y el cumplimiento, para proteger a los consumidores de resultados potencialmente dañinos o sesgados.
Fiddler AI guía a las empresas en el uso responsable de la IA, desde la fase inicial hasta la madurez de sus prácticas, enfocándose en tres áreas fundamentales: monitoreo, seguridad y gobernanza. Su plataforma de observabilidad permite a las empresas vigilar un conjunto completo de métricas de LLM y ML, emitiendo alertas cuando estas caen por debajo de un punto crítico. Además, proporcionan evidencia de auditoría esencial para el cumplimiento de requisitos regulatorios.
A medida que los LLM son adoptados con rapidez, las empresas se enfrentan a nuevos desafíos, como el monitoreo de estos modelos en escenarios reales. La plataforma de Fiddler ofrece una solución con su servicio de confianza y la herramienta Guardrails, que asegura tiempos de respuesta inferiores a 100 milisegundos y puede ser implementada de forma segura dentro de los entornos de sus clientes.
En cuanto a las prácticas responsables de IA, el enfoque de Fiddler se centra en la vigilancia continua de los modelos para detectar sesgos y problemas de equidad, ofreciendo alertas en tiempo real ante comportamientos sesgados. La plataforma genera automáticamente evidencia de auditoría para facilitar el cumplimiento normativo.
Un ejemplo notable del impacto positivo de Fiddler es su trabajo con Integral Ad Science (IAS), donde su plataforma mejoró la supervisión de los modelos de aprendizaje automático y facilitó el cumplimiento regulatorio. Esta colaboración resultó en una reducción de costos de monitoreo y una mejora significativa en los tiempos de lanzamiento de productos.
Con la atención creciente en la privacidad de los datos, Fiddler ha implementado un marco de seguridad sólido que asegura que su plataforma de observabilidad cumpla con las regulaciones de protección de datos. La empresa se compromete a que todas las interacciones y datos gestionados se ajusten a las leyes de privacidad vigentes y los estándares industriales.
Mirando al futuro, Fiddler AI planea expandir su liderazgo en observabilidad de IA, desarrollando capacidades avanzadas y recursos educativos que promuevan la gobernanza efectiva de la IA. Su objetivo es ayudar a las empresas a implementar modelos de IA que proporcionen valor comercial mientras son responsables y equitativos para todos.
