En un mundo donde la tecnología avanza a pasos agigantados, construir un stack de inteligencia artificial agentiva se asemeja a construir un rascacielos en medio de un terremoto. Este es el escenario que enfrentan las empresas al tratar de integrar nuevas tecnologías con sistemas existentes, un proceso que requiere una atención especial a los fundamentos inmutables que garantizan el éxito.
Recientemente, StartUp Play, un servicio de agregación de plataformas OTT, compartió su experiencia en la construcción de un stack agentivo, revelando lecciones valiosas sobre lo que funciona y lo que no al adentrarse en este campo. En la evolución empresarial actual, hemos transitado de arquitecturas monolíticas, como las empleadas por grandes compañías como Prime Video, hacia microservicios y más recientemente, arquitecturas orientadas a eventos y sin servidor. En este contexto, la inteligencia artificial nativa exige la incorporación de capacidades avanzadas de razonamiento y modelos de lenguaje, haciendo que la integración sea el desafío más grande.
El desarrollo de un stack agentivo requiere una composición por capas. Se inicia con las interfaces API y avanza por las capas de orquestación, los modelos de lenguaje, y finalmente, las capas de memoria y contexto. Las herramientas y APIs permiten que los agentes se desenvuelvan en el mundo real, bajo un estricto control de datos y gobernanza.
La escalabilidad es clave, y por ello, los microservicios deben ser sin estado, utilizando soluciones como Kafka o Redis para el almacenamiento. El objetivo: soportar hasta un millón de transacciones por segundo, lo que subraya la importancia de una arquitectura bien planeada desde el principio.
StartUp Play ha identificado varios enfoques para construir un stack agentivo, incluyendo el uso de sistemas empresariales existentes y desarrollo de sandboxes para agentes. Cada opción tiene sus propias ventajas, desde la eficiencia en el uso de tokens hasta la estandarización de herramientas. En el ámbito de las plataformas OTT, la flexibilidad arquitectónica es crucial, con modelos implementados para mejoras en metadata, recomendaciones y monitoreo de calidad.
La gestión de datos es fundamental y debe estructurarse en tres niveles: datos de sesión, de múltiples sesiones y a largo plazo, asegurando una base sólida para futuras implementaciones. El dilema de construir o comprar también es relevante. Identificar los componentes que deben desarrollarse internamente frente a los que pueden adquirirse influye en la competitividad de la organización.
Finalmente, la integración modular y reemplazable de touchpoints facilita la adaptación ante cambios en modelos y plataformas, asegurando la sostenibilidad del sistema. En un entorno tecnológico en constante evolución, capturar y aprovechar el valor de los datos generados es crucial para cualquier empresa dispuesta a adaptarse y crecer. Al final, el valor y los problemas resueltos son activos tangibles, sin importar la tecnología subyacente.
