NVIDIA ha dado un nuevo paso en la evolución de la inteligencia artificial (IA) y la computación de alto rendimiento (HPC) al presentar su más reciente innovación: el GPU H200 NVL PCIe. Este nuevo integrante de la arquitectura Hopper fue anunciado en la conferencia Supercomputing 2024 (SC24), donde se enfatizaron sus capacidades para mejorar tanto el rendimiento como la eficiencia energética en servidores empresariales convencionales.
El H200 NVL viene diseñado con las necesidades actuales de los centros de datos en mente, ofreciendo una solución flexible y eficiente. En respuesta a datos que muestran que el 70% de los racks empresariales operan con una capacidad de 20 kW o menos y utilizan sistemas de refrigeración por aire, el H200 NVL permite la integración flexible de entre uno y ocho GPUs por rack. Esto maximiza la potencia de cálculo sin requerir modificaciones significativas en la infraestructura existente.
Este GPU se destaca no solo por sus mejoras respecto a su predecesor, el H100 NVL, sino también por sus innovaciones audaces. Un aumento del 50% en la memoria y un incremento del 20% en el ancho de banda facilitan la adaptación de modelos de lenguaje extenso (LLMs) en menos tiempo y ejecutan inferencias 1,7 veces más rápido. En términos de HPC, el H200 NVL ofrece un rendimiento un 30% superior al del H100 NVL y es 2,5 veces más potente que GPUs de la generación Ampere.
Una característica revolucionaria es su tecnología NVIDIA NVLink, que permite una comunicación GPU-a-GPU hasta siete veces más rápida que la tecnología PCIe de quinta generación. Esto se traduce en un significativo incremento de rendimiento para aplicaciones de HPC y ajustes de IA.
Además, quienes adquieran el H200 NVL recibirán una suscripción de cinco años a NVIDIA AI Enterprise, una plataforma nativa de la nube que facilita el desarrollo e implementación de IA en producción. Esta incluye microservicios de NVIDIA NIM, que aseguran despliegues seguros y eficientes para modelos de inferencia de IA.
Ya se están observando los impactos de esta tecnología en diversas industrias. Desde mejoras en chatbots para atención al cliente hasta avances en el análisis de imágenes médicas, el H200 NVL está dejando su huella. Empresas como Dropbox han reconocido sus beneficios para optimizar servicios, mientras que la Universidad de Nuevo México lo utiliza para acelerar investigaciones en sectores como bioinformática y astrofísica.
A nivel de disponibilidad, gigantes tecnológicos como Dell Technologies, Hewlett Packard Enterprise, Lenovo y Supermicro han anunciado configuraciones basadas en el H200 NVL. Marcas como ASUS, GIGABYTE, MSI y QCT también integrarán esta innovación en sus plataformas. Se espera que el H200 NVL esté disponible en sistemas de socios globales de NVIDIA a partir de diciembre. Para facilitar su implementación, NVIDIA está elaborando una Arquitectura de Referencia Empresarial que incluye recomendaciones optimizadas de hardware y software.
En el marco de la SC24, NVIDIA exhibe su H200 NVL junto a otras tecnologías en el Georgia World Congress Center, destacando su compromiso por transformar la computación empresarial. Al introducir el H200 NVL, NVIDIA no solo redefine los límites del rendimiento en IA y HPC, sino que también ofrece a las empresas soluciones escalables que responden a las demandas de los centros de datos modernos, subrayando así su posición de liderazgo en la industria tecnológica.
