Los desarrolladores que trabajan en aplicaciones de inteligencia artificial enfrentan el desafío constante de convertir datos no estructurados en formatos estructurados. Esta tarea es crucial para mejorar la comunicación máquina a máquina, permitiendo un procesamiento más eficiente de los resultados generados. Las aplicaciones como la extracción de información de documentos, la creación de asistentes que interactúan con APIs y el desarrollo de agentes que realizan acciones específicas requieren modelos capaces de generar salidas en formatos predeterminados.
Para mejorar la fiabilidad en este ámbito, se ha introducido la técnica de decodificación restringida utilizando los modelos de base Amazon Nova. Esta innovación ayuda a extraer datos de acuerdo con esquemas complejos, reduciendo los errores en el uso de herramientas en más del 95%.
Hay dos métodos principales para implementar las salidas estructuradas: la modificación del aviso del sistema y el uso de la llamada a herramientas. Por ejemplo, al gestionar soporte al cliente, se podría configurar el modelo para que genere respuestas en formato JSON, detallando tanto la respuesta al usuario como el sentimiento asociado. En este caso, el aviso del sistema se ajustaría para incluir la estructura deseada.
La otra alternativa consiste en proporcionar un esquema o API al modelo mediante una configuración de herramienta. Este enfoque es valioso cuando se construyen aplicaciones que requieren salidas estructuradas, ya que se puede definir un esquema específico que el modelo debe seguir.
Si bien ambos métodos son efectivos, la salida sigue siendo no determinística, permitiendo ciertos márgenes de error. Sin embargo, se ha observado que la complejidad de los esquemas puede influir negativamente en la precisión del modelo.
La decodificación restringida aborda este problema al utilizar una gramática que limita los tokens que un modelo puede generar en cada paso. A diferencia de las técnicas de notificación anteriores, esta innovación redefine el conjunto de tokens disponibles al modelo durante la generación de salidas.
Un componente clave en el uso de salidas estructuradas con Amazon Nova es la creación de una configuración de herramienta, proporcionando una interfaz estándar para el esquema de salida esperado. Esto asegura que el modelo comprenda cómo deben llenarse los campos.
Una vez establecido este esquema, puede implementarse a través de la API Conversar con la receta solicitada, integrándose en el aviso del usuario. Con el apoyo nativo para herramientas y la decodificación restringida, el modelo es capaz de generar un esquema JSON completo y complejo para su aplicación.
Este avance en la generación de salidas estructuradas con Amazon Nova ofrece a los desarrolladores una herramienta valiosa, permitiéndoles construir sistemas de inteligencia artificial más robustos y confiables.
