Los modelos de lenguaje grandes (LLMs) han adquirido popularidad tanto en aplicaciones de consumo como en entornos empresariales. Sin embargo, su tendencia a «alucinar» información y proporcionar respuestas incorrectas con confianza ha generado un problema de credibilidad. Considerados como expertos humanos, confiamos más en aquellos que pueden respaldar sus afirmaciones con referencias y guiar a los usuarios a través de su razonamiento. Lo mismo aplica a los LLMs: son más confiables cuando muestran su proceso de pensamiento y citan fuentes confiables. Con la adecuada formulación de preguntas, es posible instruir a los LLMs para que ofrezcan estas citas, mejorando la verificabilidad y confianza de sus respuestas.
En el contexto del modelo Amazon Nova, lanzado en diciembre de 2024 y disponible en Amazon Bedrock, se presentan varios beneficios al utilizar citas. Primero, aseguran la precisión de la información, dado que los LLMs tienden a generar datos plausibles pero incorrectos. Segundo, fomentan la confianza y la transparencia, permitiendo a los usuarios verificar la información y entender su origen. Tercero, citando fuentes, se respeta la propiedad intelectual y se previene el plagio, esencial para el uso ético de la inteligencia artificial. Además, las citas facilitan la experiencia del usuario al ofrecer caminos para explorar materiales relacionados.
Para optimizar el uso de Amazon Nova, se pueden crear preguntas que instruyan a los modelos para citar sus fuentes. Por ejemplo, al preguntar a Nova Pro sobre cartas para accionistas de Amazon, se puede solicitar que incluya citas de los documentos proporcionados. Este enfoque permite a los modelos seguir instrucciones claras y ofrecer respuestas con las citas pertinentes.
La evaluación de las respuestas generadas se realiza mediante otro LLM que actúa como juez. Este proceso emplea métricas como la corrección, completitud y coherencia, proporcionando insights valiosos para mejorar las aplicaciones de IA. Este sistema automatizado facilita la evaluación de diversas variables, asegurando que los resultados sean útiles y relevantes.
En resumen, la capacidad de Amazon Nova para incluir citas en sus respuestas no solo incrementa la fiabilidad de la información proporcionada, sino que también establece un estándar de transparencia y ética en el uso de la inteligencia artificial. Con la implementación de técnicas de evaluación adecuadas, se garantiza que las interacciones con este tipo de modelos sean más seguras y efectivas.
