Red Hat, reconocido líder en soluciones de código abierto, ha dado un paso significativo en su estrategia de inteligencia artificial (IA) con la adquisición de Neural Magic, una firma destacada en el desarrollo de software y algoritmos para optimizar modelos de IA generativa en entornos de inferencia. Esta compra busca potenciar la oferta de Red Hat al facilitar el acceso a soluciones de IA de alto rendimiento, particularmente en la nube híbrida, alineándose así con su compromiso de ofrecer plataformas adaptadas a las necesidades específicas de sus clientes.
La IA generativa, una de las tecnologías emergentes más prometedoras, requiere infraestructuras capaces de manejar modelos de lenguaje de gran tamaño (LLMs) que demandan considerable poder de procesamiento y recursos energéticos. Hasta ahora, esta necesidad ha limitado la accesibilidad a este tipo de tecnologías para numerosas organizaciones. La integración de la tecnología de Neural Magic con la cartera de soluciones de Red Hat promete democratizar el uso de la IA generativa mediante el uso de plataformas abiertas que buscan eficiencias innovadoras y accesibles.
Un aspecto destacado de esta integración es el impulso al proyecto vLLM, desarrollado inicialmente en la Universidad de California, Berkeley. Esta iniciativa de código abierto optimiza modelos generativos para un amplio espectro de hardware, desde GPUs de AMD y NVIDIA hasta CPUs x86. Con vLLM, Red Hat y Neural Magic ofrecerán a las empresas la posibilidad de implementar estrategias de IA flexibles en diversos entornos, ya sea en sus propios centros de datos, la nube o en el edge.
Fundada como un spin-off del MIT en 2018, Neural Magic ha centrado su especialización en software que mejora el rendimiento de modelos de aprendizaje profundo. En su unión con Red Hat, la firma aportará experiencia vital para extender las capacidades de Red Hat AI, permitiendo un despliegue más eficiente de modelos de lenguaje y apoyando la aplicación de IA en corporaciones que demandan altos niveles de seguridad.
La plataforma Red Hat AI se verá fortalecida con la tecnología de Neural Magic, lo que permitirá ofrecer soluciones de código abierto que abarcan hasta 405.000 millones de parámetros, adaptables a cualquier entorno. Esto no solo optimizará el funcionamiento de los modelos generativos, sino que también reducirá los costes operativos asociados.
Entre las tecnologías que se beneficiarán de esta nueva capacidad se encuentran Red Hat Enterprise Linux AI (RHEL AI), diseñado para el desarrollo de modelos de IA en servidores Linux, y Red Hat OpenShift AI, un entorno basado en Kubernetes que facilita el desarrollo y monitoreo de modelos de IA en entornos distribuidos. Además, el proyecto InstructLab, en colaboración con IBM, permitirá a los usuarios participar activamente en el perfeccionamiento de modelos como Granite LLM.
Con esta adquisición, pendiente aún de la aprobación regulatoria, Red Hat reafirma su compromiso con una IA generativa abierta y segura, respaldada por una robusta comunidad de colaboradores. La integración de la tecnología de Neural Magic no solo promete mejoras en eficiencia y rendimiento, sino que también permitirá a las empresas mantener control sobre sus datos y políticas de seguridad, consolidando a Red Hat como líder en soluciones de IA de código abierto en la nube híbrida.
