La memoria de alto ancho de banda (HBM) se ha convertido en un componente crítico y costoso en el desarrollo de la Inteligencia Artificial (IA), influyendo significativamente en el rendimiento de las unidades de procesamiento gráfico (GPU). En este contexto, las recientes noticias sobre las GPU NVIDIA Vera Rubin y su capacidad de ancho de banda han generado un considerable interés en la industria tecnológica. Según varios informes especializados, estas GPUs no alcanzarían la meta inicialmente establecida por NVIDIA de ofrecer 22 TB/s de ancho de banda con memoria HBM4, quedándose en aproximadamente 20 TB/s debido a desafíos en la producción.
Este ajuste técnico subraya una tendencia más amplia en la industria: la memoria HBM4 está siendo empujada al límite de sus capacidades antes de alcanzar una madurez completa en su producción. Las restricciones no solo provienen de los fabricantes clave como SK hynix y Samsung, sino también de la necesidad de mantener la integridad de la señal y la estabilidad térmica, complicando la validación a gran escala.
Originalmente, NVIDIA puso presión para alcanzar una velocidad de 11 Gb/s por pin, cifra que los fabricantes prefirieron ajustar a 10 Gb/s para asegurar una producción masiva más consistente y optimizada en términos de consumo energético y estabilidad. Este ajuste puede parecer mínimo, pero en la práctica afecta significativamente el ancho de banda total, dado que HBM4 se caracteriza por utilizar una interfaz de 2.048 bits por stack, sumando cualquier cambio menor en velocidad por pin a gran escala.
El reto de escalar HBM4 no es solo técnico. Si el rendimiento por oblea disminuye, los costos aumentan, convirtiendo cada paso hacia adelante en términos de velocidad en una apuesta económica riesgosa. En este escenario, los fabricantes deben equilibrar el avance con rendimientos de fabricación (yield) y la presión de los grandes compradores para superar el «mínimo viable» definido por el estándar JEDEC.
Este desarrollo tiene implicaciones competitivas directas. AMD, el principal rival de NVIDIA, ha anunciado cifras agresivas para su próxima serie de aceleradores con HBM4, el Instinct MI450, que manejaría un ancho de banda de 19,6 TB/s con 432 GB de HBM4. Con Rubin quedándose en torno a 20 TB/s, la distancia entre ambas empresas parece reducirse, marcando una competencia no solo de cifras, sino de arquitectura, interconexión y coste total de propiedad.
A pesar del ajuste, la generación Rubin representa un salto significativo comparado con sus predecesores. La GPU H100 de NVIDIA, conocida como Hopper, ofrece 3,35 TB/s, mientras que Blackwell, también de NVIDIA, alcanza alrededor de 8 TB/s en una configuración por GPU con HBM3E. Incluso si Rubin se queda en 20 TB/s, el avance es evidente, confirmando el papel crucial de HBM en la evolución de la IA.
Este cambio también destaca una tendencia clave en la industria tecnológica: aunque los compromisos a largo plazo para asegurar nodos avanzados y componentes críticos se están promoviendo, alcanzar las especificaciones más ambiciosas sigue siendo un desafío en línea con las expectativas del mercado. La memoria HBM, por su relevancia y complejidad de fabricación, se ha situado en el centro de esta dinámica, priorizando fiabilidad y estabilidad sobre los incrementos mínimos de rendimiento. Esta situación obliga a los competidores a ganar ventaja en otras áreas, como el software, la interconectividad, y la infraestructura, más allá de solo pelear por las cifras del ancho de banda de memoria.
