Las Empresas Deben Reflexionar Sobre Quién Define el Modelo de IA para Cada Tarea

La creciente adopción de la inteligencia artificial generativa en las empresas plantea una cuestión vital sobre la gestión de modelos de lenguaje: ¿quién es responsable de decidir cuál modelo responde a cada solicitud? En numerosas ocasiones, esta decisión depende de un servicio externo, cuyos criterios y procesos son opacos para el cliente, o se opta por utilizar siempre el modelo más reciente. En respuesta a esta inquietud, TIMIA, una compañía especializada en inteligencia artificial y analítica avanzada, ha introducido RouterKit, un framework que permite que las empresas creen y entrenen su propio enrutador de modelos, basado en sus tareas específicas, el catálogo de modelos existentes y las prioridades que establezcan.

RouterKit ofrece una solución eficiente que reduce significativamente los costos de utilización de la IA generativa, sin sacrificar la calidad de los modelos más avanzados. La compañía ha anunciado que tiene la intención de liberar el código de RouterKit bajo la licencia Apache 2.0, lo que facilitará su uso, modificación y distribución, incluso con fines comerciales.

Este producto se sitúa como una capa de decisión y no como un competidor de los grandes modelos de lenguaje. Al recibir una solicitud, RouterKit analiza las características de esta sin resolverla, para luego estimar qué modelos tienen más probabilidades de proporcionar una respuesta adecuada. La selección se realizará según criterios fijados por la organización, que pueden incluir calidad, tiempo de respuesta o coste. Si la respuesta inicial no cumple con los estándares requeridos, el sistema tiene la capacidad de derivar la solicitud a otro modelo, hasta un número configurable de intentos.

La propuesta de TIMIA se distingue de otros servicios comerciales de enrutamiento, que a menudo funcionan como cajas negras. Con RouterKit, cada decisión es explicable y auditable, lo que permite que el sistema se reentrene cuando cambien los modelos o las necesidades del negocio. «La pregunta ya no es qué modelo utilizar, sino quién decide qué modelo resuelve cada tarea y con qué criterio», señala Sandro Calzada, director de Innovación de TIMIA. «Queremos que cada organización tenga el control, utilizando sus propios datos y de una manera comprensible».

Para validar el sistema, TIMIA utilizó 1.135 tareas de programación en Python de BigCodeBench, un repositorio público de pruebas. Compararon siete modelos, ya sea accesibles a través de API o alojados en infraestructura propia, registrando sus resultados en diferentes ejecuciones para evaluar tanto la tasa de resolución como la variabilidad de las respuestas. Con estos datos, entrenaron un modelo predictivo que estimó las alternativas más efectivas para resolver cada tarea. Como resultado, el sistema alcanzó una tasa de resolución del 68 %, superior al 66,6 % del mejor modelo individual evaluado.

La evaluación inicial se centró en la programación, un ámbito donde las pruebas automáticas, como los tests unitarios, permiten una verificación objetiva de soluciones. A futuro, TIMIA planea expandir las aplicaciones de RouterKit a otros usos como consultas a bases de datos, extracción de información y procesos con agentes de IA, lo que requerirá la definición de nuevos mecanismos de evaluación. También están considerando la incorporación del tiempo de respuesta como un criterio de optimización y la simplificación de la integración de nuevos modelos.

Con la publicación del código de RouterKit, TIMIA tiene la intención de que otras organizaciones adopten este framework, lo adapten a sus propios procesos y contribuyan a su desarrollo, fomentando así una mayor transparencia y control en el uso de la inteligencia artificial generativa.

Scroll al inicio