GoDaddy, el afamado registrador de dominios y proveedor de servicios de comercio electrónico, ha dado un importante paso en su camino hacia la innovación tecnológica mediante la implementación de un sistema de inteligencia artificial generativa. Este desarrollo busca transformar su sistema de categorización de productos, permitiendo ofrecer insights de negocio personalizados a más de 21 millones de clientes, algo que antes era exclusivo de las grandes corporaciones.
El crecimiento en el uso de modelos de lenguaje grandes (LLMs) en aplicaciones de inteligencia artificial ha sido notable, pero su implementación en entornos de producción ha enfrentado retos, principalmente en términos de escalabilidad. Ante esta situación, GoDaddy ha adoptado la inferencia por lotes, una estrategia que posibilita el procesamiento de múltiples solicitudes de manera asíncrona, incrementando así la eficiencia en la gestión de grandes volúmenes de datos.
Desarrollado en conjunto con el equipo del Generative AI Innovation Center, el innovador sistema hace uso de Amazon Bedrock para procesar datos de productos con un modelo de Meta Llama 2. GoDaddy se enfrentó a la colosal tarea de categorizar cerca de seis millones de productos basándose solo en sus nombres. Sin embargo, los primeros resultados no fueron los esperados, con categorizaciones a menudo incompletas o incorrectas, lo que conllevaba a un aumento en los costos operativos.
La solución adoptada sigue una serie de pasos meticulosamente ordenados, empezando con la transferencia de archivos JSONL a un bucket de S3, lo que desencadena funciones Lambda para el procesamiento en lotes. Esta metodología permite leer los nombres de los productos y generar una salida categorizada, que es almacenada para análisis futuros. Las medidas de seguridad implementadas con los servicios de AWS garantizan la confidencialidad e integridad de los datos.
Con esta implementación, la solución no solo optimiza la categorización de productos, sino que también establece un marco integral para generar insights valiosos para los clientes. Es compatible con diferentes modelos de LLM en Amazon Bedrock, lo cual aporta flexibilidad y escalabilidad para futuras actualizaciones.
El uso de técnicas de «n-packing», que agrupan múltiples nombres de productos en una sola consulta al sistema, ha demostrado ser efectivo para optimizar la latencia y reducir costos, destacando que la adopción de este tipo de tecnología podría representar un ahorro significativo en las operaciones de GoDaddy.
Con miras a mejorar continuamente la calidad del servicio, la empresa planea ampliar su base de datos con ejemplos verificados y utilizar más controles de calidad. Esta colaboración entre GoDaddy y el equipo de innovación de inteligencia artificial no solo promete una transformación en la experiencia del cliente, sino también una democratización de los recursos de comercialización para emprendedores. Las primeras estimaciones sugieren que esta solución podría procesar miles de productos en un tiempo notablemente menor al que anteriormente se requería, mejorando significativamente la eficiencia y la satisfacción del cliente.
