En el ámbito de la inteligencia artificial generativa, la implementación de nuevas características que faciliten el uso de herramientas externas se está convirtiendo en una prioridad. Amazon ha dado un paso significativo en este campo con el lanzamiento de una nueva funcionalidad para su modelo de lenguaje, Amazon Nova. Esta novedad permite a los desarrolladores controlar de manera precisa cuándo y cómo se utilizan estas herramientas, reduciendo la dependencia de la ingeniería de prompts y asegurando que el modelo siga las configuraciones específicas.
La innovadora función de «tool choice» de Amazon Nova habilita una selección automática de la herramienta adecuada para responder a las consultas de los usuarios. Por ejemplo, si un usuario solicita información sobre el clima en Seattle, el modelo elegirá el API del clima correcto para proporcionar la respuesta más precisa. Este método pone énfasis en la selección apropiada de la herramienta y sus parámetros, relegando la ejecución de funciones externas a la aplicación o al desarrollador.
La API actualizada introduce tres opciones para la elección de herramientas: «Any», que asegura la selección de al menos una herramienta disponible; «Tool», que fuerza al modelo a usar una herramienta específica solicitada; y «Auto», que le permite al modelo decidir cuándo utilizar una herramienta, incorporando un proceso de razonamiento en la respuesta.
Se destaca el caso de uso en la generación de salidas estructuradas, donde se requiere que Amazon Nova utilice una herramienta específica para cumplir con esquemas JSON predefinidos. Esto es crucial, ya que permite que las aplicaciones procesen eficazmente las salidas generadas. Por ejemplo, en un sitio web de recetas, Amazon Nova podría estructurar información sobre ingredientes, tiempos de cocción y pasos de preparación de forma precisa.
Otro escenario relevante es la selección de endpoints de API, donde se permite que el modelo elija entre varias herramientas disponibles. Esto garantiza que se use la herramienta más adecuada para cada consulta del usuario, siendo especialmente útil para obtener productos disponibles o esclarecer dudas mediante consultas adicionales.
La opción predeterminada de herramienta, «auto», permite que el modelo decida si responde directamente al usuario en texto o emplea una herramienta, devolviendo tanto el bloque de la herramienta usada como un bloque de texto explicativo. Para optimizar estas interacciones, es crucial seguir buenas prácticas, como el uso de parámetros de decodificación ávida y asegurar que las descripciones y nombres de las herramientas sean claros y precisos.
Con estas funcionalidades, Amazon Nova busca mejorar la eficacia y la versatilidad de las aplicaciones alimentadas por inteligencia artificial generativa, promoviendo una experiencia más envolvente y precisa para los usuarios.
