GoDaddy, el gigante en el registro de dominios y servicios de comercio electrónico, ha dado un paso significativo en su propuesta de valor al desarrollar un sistema innovador de inteligencia artificial generativa. Esta solución busca mejorar la categorización de productos y proporcionar insights personalizados a sus más de 21 millones de clientes, nivelando el campo de juego en el acceso a datos que antes solo eran accesibles para las grandes corporaciones.
En un contexto donde el uso de modelos de lenguaje grandes (LLMs) ha crecido de manera vertiginosa, su implementación a gran escala sigue presentando retos, especialmente en términos de escalabilidad. En respuesta a estos desafíos, GoDaddy ha optado por un enfoque de inferencia por lotes. Este método permite el procesamiento asíncrono de grandes volúmenes de datos, lo que a su vez aumenta la eficiencia en la categorización de productos.
La alianza de GoDaddy con el equipo de Generative AI Innovation Center y el uso de Amazon Bedrock ha permitido a la empresa enfrentar la compleja tarea de categorizar aproximadamente seis millones de productos. Inicialmente, los resultados mostraban deficiencias con categorías incompletas o incorrectamente etiquetadas, complicando costos operativos. Sin embargo, el nuevo sistema, apoyado por un modelo de Meta Llama 2, ha mejorado considerablemente estos resultados.
Este enfoque innovador comienza con la transferencia de archivos JSONL a un bucket de S3, lo que desencadena funciones Lambda para el procesamiento en lotes. Esto posibilita la lectura y categorización de nombres de productos, que luego se almacenan para un análisis posterior. A esto se suma la seguridad robusta de los servicios AWS, lo que garantiza la protección de los datos durante todo el proceso.
Además de mejorar la precisión en la categorización, esta solución ofrece un marco que genera insights valiosos para los clientes. La compatibilidad con diversos modelos de LLM en Amazon Bedrock añade una capa de flexibilidad y preparación para futuras actualizaciones.
La implementación de técnicas de «n-packing», que agrupan múltiples productos en una sola consulta, optimiza tanto la latencia como los costos. Este avance sugiere un ahorro operativo considerable para GoDaddy, demostrando que la innovación tecnológica también puede ser económicamente eficiente.
Con miras a elevar aún más la calidad del servicio, GoDaddy planea expandir su base de datos de ejemplos verificados y emplear controles de calidad adicionales. La colaboración continua con el equipo de innovación promete no solo transformar la experiencia del cliente, sino también democratizar recursos de mercado para los emprendedores, procesando miles de productos de forma más rápida y eficiente que nunca. Estas mejoras no solo se traducen en una operación interna más eficaz, sino también en una satisfacción notablemente mayor de los clientes.
