GoDaddy, el reconocido registrador de dominios y proveedor de servicios de comercio electrónico, ha desarrollado una innovadora solución de inteligencia artificial generativa destinada a optimizar su sistema de categorización de productos. Esta iniciativa busca ofrecer insights de negocio personalizados a más de 21 millones de clientes, algo que anteriormente solo estaba al alcance de grandes corporaciones.
El uso de modelos de lenguaje grandes (LLMs) en aplicaciones de inteligencia artificial ha experimentado un crecimiento exponencial. No obstante, su implementación en producción enfrenta diversos desafíos, particularmente en relación con la escalabilidad. En este contexto, GoDaddy ha optado por adoptar enfoques de inferencia por lotes, lo cual permite procesar múltiples solicitudes de manera asíncrona, mejorando así la eficiencia al gestionar grandes volúmenes de datos.
Este nuevo sistema, desarrollado en colaboración con el equipo del Generative AI Innovation Center, utiliza Amazon Bedrock para procesar datos de productos empleando un modelo de Meta Llama 2. GoDaddy se enfrentaba a la ardua tarea de categorizar casi seis millones de productos a partir de sus nombres. Sin embargo, los primeros resultados no fueron los esperados, ya que las categorías a menudo eran incompletas o estaban mal etiquetadas, lo que incrementó los costos operativos.
La solución propuesta se basa en una serie de pasos organizados que comienzan con la transferencia de archivos JSONL a un bucket de S3, activando funciones Lambda para el procesamiento en lotes. Estos pasos permiten leer los nombres de los productos y generar una salida categorizada, que se almacena para análisis posteriores. Las medidas de seguridad están integradas en los servicios de AWS utilizados en esta arquitectura, asegurando así la confidencialidad e integridad de los datos.
Con esta implementación, la solución no solo optimiza la categorización, sino que también ofrece un marco integral para generar insights útiles para los clientes. Es compatible con diversos modelos de LLM en Amazon Bedrock, proporcionando flexibilidad y escalabilidad para futuras actualizaciones.
El uso de técnicas de «n-packing», que agrupan múltiples nombres de productos en una sola consulta a la máquina, ha permitido optimizar tanto la latencia como los costos. Esta adopción tecnológica podría representar un ahorro significativo en la operación de GoDaddy.
Con la meta de mejorar la calidad del servicio, la empresa también planea aumentar su base de datos de ejemplos verificados y emplear más controles de calidad. La colaboración entre GoDaddy y el equipo de innovación de inteligencia artificial promete no solo transformar la experiencia del cliente, sino también hacer más accesibles los recursos de comercialización para emprendedores. Las estimaciones iniciales sugieren que esta solución será capaz de procesar miles de productos en menos tiempo del que se requería anteriormente, aumentando notablemente la eficiencia y la satisfacción del cliente.
