Las reuniones son una parte esencial de la coordinación y toma de decisiones en las organizaciones. Sin embargo, el proceso de capturar y estructurar sus puntos clave suele ser ineficiente y propenso a errores. La tarea manual de resumir y extraer acciones clave requiere tiempo y puede dar lugar a omisiones.
Para abordar este reto, los modelos de lenguaje de gran tamaño (LLMs) ofrecen una alternativa eficaz. Transmutan transcripciones no estructuradas en resúmenes y listas de acciones organizadas, siendo especialmente útiles en la gestión de proyectos, servicio al cliente, ventas y cumplimiento legal.
Recientemente, se ha evaluado la familia de modelos Amazon Nova, accesibles a través de Amazon Bedrock, para guiar a las empresas en la selección del modelo más adecuado para resumir reuniones. Estos modelos destacan en comprensión contextual, inferencia de relaciones y producción de salidas estructuradas.
La ingeniería de prompts se presenta como un método más efectivo y escalable que la afinación tradicional de modelos. Sin alterar la arquitectura del modelo o requerir grandes conjuntos de datos etiquetados, esta técnica utiliza consultas bien diseñadas para personalizar rápidamente su comportamiento.
Amazon Nova, introducido en AWS re:Invent, abarca cuatro niveles: Nova Micro, Nova Lite, Nova Pro y Nova Premier, optimizados para aplicaciones de inteligencia en entornos seguros y asequibles. Su enfoque se centra en la resumen y extracción de acciones, facilitando resúmenes y listas de tareas derivados de las conversaciones.
En pruebas basadas en el conjunto de datos público QMSum, Nova Premier obtuvo la mejor puntuación en fidelidad, aunque otros modelos mostraron tiempos de procesamiento más rápidos. La evaluación de calidad de las salidas, un desafío común, está siendo optimizada mediante el uso de LLMs como jueces, evaluando los resultados basándose en criterios definidos.
Los resultados destacan la velocidad y eficacia de Nova, posicionándolos como una opción atractiva para empresas con grandes volúmenes de datos de reuniones. La integración de la ingeniería de prompts y los modelos Nova a través de Amazon Bedrock optimiza la latencia, costo y precisión, convirtiéndola en una solución viable para mejorar la gestión de reuniones a gran escala.