Red Hat, destacado en el ámbito del software de código abierto, ha lanzado Red Hat AI 3, la última actualización de su plataforma de inteligencia artificial dirigida al ámbito empresarial. Esta nueva versión integra innovaciones clave de Red Hat AI Inference Server, Red Hat Enterprise Linux AI (RHEL AI) y Red Hat OpenShift AI, buscando simplificar la complejidad de la inferencia a gran escala y permitir que las organizaciones transiten más rápido de las pruebas de concepto a entornos de producción en aplicaciones impulsadas por inteligencia artificial.
El mercado se enfrenta a desafíos importantes en términos de privacidad de los datos, controles de gasto y manejo de múltiples modelos. Según un informe del MIT, un 95% de las organizaciones no están obteniendo retornos financieros medibles de sus inversiones en inteligencia artificial, a pesar del enorme desembolso de cerca de 40,000 millones de dólares.
Red Hat AI 3 aborda directamente estas dificultades proporcionando una experiencia coherente y unificada para que los responsables de TI optimicen las inversiones en computación acelerada. Facilita la gestión de cargas de trabajo de IA en entornos híbridos y multicloud, promoviendo la colaboración entre equipos con soluciones de última generación.
El cambio hacia la inferencia, la fase de ejecución de la IA, se convierte en un enfoque fundamental a medida que las organizaciones implementan sus proyectos de inteligencia artificial. Red Hat AI 3 se centra en ofrecer una inferencia escalable y rentable, apoyándose en avances de proyectos como vLLM y llm-d, para ofrecer un servicio de modelos de lenguaje (LLM) de producción de alta calidad.
La plataforma también introduce llm-d, un sistema que optimiza la ejecución nativa de LLM en Kubernetes, reduciendo costos y mejorando tiempos de respuesta a través de tecnologías de código abierto. Esto permite una programación de modelos más inteligente y una simplicidad operativa optimizada.
Red Hat AI 3 se conforma como una plataforma unificada y flexible para fomentar la colaboración en la creación de soluciones de IA generativa. Incluye capacidades como Modelo como Servicio (MaaS), un hub de IA con un catálogo curado de modelos, Gen AI studio para la experimentación con modelos, y nuevos modelos validados por Red Hat para simplificar el desarrollo.
La versión también sienta las bases para agentes de IA de nueva generación, con una capa de API unificada y herramientas para personalización de modelos, apoyándose en proyectos de código abierto. Esto facilita el desarrollo y la implementación eficaz y controlada de agentes de IA, clave para transformar las aplicaciones empresariales.
