Amazon ha lanzado una innovadora solución para la clasificación automática de texto a través de la inferencia por lotes de Amazon Bedrock y el modelo Claude Haiku de Anthropic. Esta tecnología es especialmente útil para organizaciones que gestionan grandes volúmenes de datos, como los centros de atención al cliente de agencias de viajes. La inferencia por lotes de Amazon Bedrock ofrece un descuento del 50% en comparación con los precios estándar, permitiendo un procesamiento eficaz y económico.
La precisión y rapidez en la clasificación son cruciales para diversas industrias, desde agencias de viajes hasta departamentos financieros. Empresas que categoricen consultas de clientes, analicen oportunidades de venta o gestionen facturas pueden beneficiarse significativamente de esta automatización. Sin embargo, automatizar sistemas no está exento de retos, como manejar grandes volúmenes de datos textuales sin comprometer la precisión.
Se utilizó un conjunto de datos sintéticos provenientes de conversaciones de atención al cliente, generados con el modelo Claude 3.7 Sonnet, para tratar temas como reservas de vuelos y cancelaciones. Este método no solo protege la privacidad del usuario, sino que también establece un marco estructurado para la clasificación.
La arquitectura es escalable, basada en un diseño sin servidor y orientado a eventos. A medida que llegan nuevas solicitudes a un bucket de Amazon S3, el sistema utiliza Amazon Bedrock para clasificar grandes cantidades de contenido, reduciendo la necesidad de supervisión manual. Este proceso incluye desde la preparación de datos hasta la inferencia por lotes, organizando resultados en formatos como CSV, JSON o XLSX.
La solución, probada con 1.190 conversaciones sintéticas, logró tiempos de procesamiento consistentes de 11 a 12 minutos por lote y una precisión del 100%. Este éxito se diseñó con prácticas de seguridad y control de costos en mente.
No obstante, se identificaron limitaciones como el tamaño mínimo de lote de 100 clasificaciones y la variabilidad del tiempo de procesamiento según la carga. Además, es crucial limpiar los recursos de AWS utilizados para evitar costos adicionales.
Esta evolución tecnológica permitirá a las empresas de diversos sectores no solo reducir el tiempo dedicado a tareas manuales, sino también extraer información valiosa de los datos de clasificación. Así, mejorarán su servicio al cliente y optimizarán sus operaciones.
