En una colaboración innovadora entre Tealium y el Centro de Innovación de Inteligencia Artificial Generativa de AWS (GenAIIC), se ha dado un paso significativo hacia la mejora de los sistemas de Generación Aumentada por Recuperación (RAG) con la creación de un nuevo marco de evaluación. Este desarrollo busca optimizar la funcionalidad de un chatbot de preguntas y respuestas (QA) diseñado por Tealium, reconocido por su liderazgo en la integración de datos de clientes en tiempo real.
Con el objetivo de elevar la precisión y relevancia de las respuestas del bot, la colaboración ha utilizado Amazon Bedrock, una avanzada plataforma de servicios de inteligencia artificial generativa. La arquitectura del sistema se ha estructurado en una serie de pasos meticulosamente diseñados. Todo comienza con la introducción de una consulta en el bot de Tealium, tras lo cual, mediante el sistema FAISS, se recupera el contexto adecuado para generar una respuesta. Posteriormente, este proceso es evaluado minuciosamente por la biblioteca Ragas, que mide diversos parámetros como la fe de la respuesta, la precisión y el recuerdo del contexto.
Un componente esencial del proyecto es la aplicación de Auto-Instruct, que genera automáticamente instrucciones destinadas a mejorar las respuestas del bot. Estas instrucciones son evaluadas y clasificadas, seleccionando las más eficaces. A esto se suma un sistema de retroalimentación donde expertos humanos pueden validar o rechazar los resultados del modelo, garantizando la corrección e indemnidad de las respuestas.
El uso de Amazon Bedrock ha sido crucial por su capacidad para gestionar modelos fundamentales (FMs) a través de una API. Esto permite personalizaciones y despliegues rápidos sin la necesidad de manejar infraestructuras complejas, un factor que ha permitido a Tealium no solo perfeccionar las respuestas de su bot, sino también mantener un control seguro y privado sobre los datos manejados.
Este proyecto ha demostrado no solo la eficiencia de los modelos de inteligencia artificial generativa en la automatización de procesos, sino también la importancia de conjugar estas soluciones tecnológicas avanzadas con la intervención humana para asegurar la calidad de los resultados. A futuro, se contempla la exploración de modelos alternativos, estrategias de segmentación diferentes y una evaluación exhaustiva de costos para seguir optimizando esta solución.
La colaboración destaca el compromiso de Tealium con la innovación continua en beneficio de sus clientes, mientras que también subraya el potencial de Amazon Bedrock para facilitar la creación y mejora de aplicaciones de inteligencia artificial generativa, enfocándose en la seguridad y flexibilidad.
