En el evento VMware Explore 2024, Broadcom y NVIDIA han presentado nuevas capacidades para su plataforma conjunta, VMware Private AI Foundation con NVIDIA, que será lanzada oficialmente en mayo de 2024. Esta solución de inteligencia artificial generativa se ha diseñado para brindar una infraestructura privada y segura a las empresas, con un enfoque en la privacidad, flexibilidad, rendimiento y seguridad.
El lanzamiento de VMware Cloud Foundation (VCF) 5.2.1, previsto para finales de este año, incluirá nuevas funcionalidades que mejorarán la experiencia de los usuarios de VMware Private AI Foundation con NVIDIA. Entre las principales novedades está «Model Store,» una herramienta que permite a los equipos de MLOps y científicos de datos curar y proporcionar modelos de lenguaje grande (LLMs) de manera segura, con control de acceso integrado. Esta capacidad facilitará la gobernanza y seguridad del entorno, asegurando la privacidad de los datos empresariales e IP.
Otra función destacada es «Guided Deployment,» que simplificará el despliegue de Gen AI. Esta capacidad optimiza la creación de dominios de carga de trabajo y el despliegue de componentes adicionales, acelerando el tiempo de implementación y reduciendo el esfuerzo administrativo.
NVIDIA AI Enterprise también presenta capacidades novedosas. Con «NVIDIA NIM Agent Blueprints,» las empresas podrán construir sus propias soluciones de IA generativa, incluyendo herramientas necesarias para desarrollar aplicaciones personalizadas en diversos campos como el servicio al cliente y el descubrimiento de fármacos. Además, «NVIDIA NIM,» un conjunto de microservicios, se presenta como una solución segura y fiable para la implementación de modelos de IA de alto rendimiento. Estos microservicios soportan una amplia gama de modelos de IA y se integran fácilmente en aplicaciones empresariales.
Por su parte, «NVIDIA NIM Operator» facilitará la implementación y gestión de pipelines de IA generativa mediante la automatización de despliegue, escalado y gestión de inferencias, lo que reducirá la latencia y mejorará el rendimiento de escalado automático.
Broadcom también ha anunciado capacidades futuras para VMware Private AI Foundation con NVIDIA, que incluirán «Visibilidad del Perfil vGPU,» permitiendo a los administradores ver todos los vGPUs creados a través de una interfaz en vCenter, y «Reservas de GPU,» una función que permitirá reservar recursos para vGPUs con anticipación, mejorando la planificación y rendimiento.
Otra funcionalidad futura será el «Servicio de Indexación y Recuperación de Datos,» que facilitará la preparación de datos privados para IA generativa y permitirá indexar y vectorizar fuentes de datos privadas, mejorando la calidad de los resultados de Gen AI. Además, el «AI Agent Builder Service» ayudará a los desarrolladores y científicos de datos a construir y desplegar agentes de IA personalizados utilizando LLMs y datos indexados.
Para expandir el ecosistema de VMware Private AI Foundation con NVIDIA, Broadcom está añadiendo nuevos proveedores y socios. Codeium ofrecerá asistencia en la generación y depuración de código mediante IA, HCLTech proporcionará soluciones de Gen AI personalizadas con un modelo de precios ajustado, y Tabnine ofrecerá herramientas de IA personalizadas para el desarrollo de software. Asimismo, WWT, proveedor de soluciones tecnológicas, apoyará a las empresas en la implementación y operación de aplicaciones de IA.
La colaboración entre Broadcom y NVIDIA en la plataforma VMware Private AI Foundation supone un avance significativo en la infraestructura de IA generativa para empresas, ofreciendo nuevas herramientas y capacidades que mejorarán la eficiencia y seguridad en el manejo de datos y aplicaciones de IA.
