La industria de la inteligencia artificial podría estar a las puertas de una transformación significativa en el ámbito de la memoria. SanDisk ha comunicado una asociación clave: Raja Koduri, un referente en arquitectura gráfica tras su paso por Apple, AMD e Intel, se incorpora a su Consejo Técnico Asesor. Su misión será impulsar el desarrollo de la memoria flash de alto ancho de banda (HBF™), una innovadora arquitectura que podría habilitar tarjetas gráficas con hasta 4 TB de VRAM, marcando un antes y un después en el procesamiento de IA, tanto en centros de datos como en dispositivos edge.
El anuncio, respaldado tanto por SanDisk como por Koduri a través de redes sociales, se complementa con otra incorporación notable: el profesor David Patterson, co-creador del diseño RISC y laureado con el premio Turing 2017, asumirá el liderazgo del consejo asesor.
A diferencia de la actual High Bandwidth Memory (HBM), la HBF no tiene como finalidad reemplazarla, sino complementarla con una capacidad significativamente mayor a un costo accesible y manteniendo un ancho de banda competitivo. SanDisk detalla que HBF podría multiplicar entre 8 y 16 veces la capacidad de la HBM vigente, sin aumentar de manera desmedida el consumo energético o económico.
Este avance tecnológico es posible gracias a la memoria flash 3D NAND BiCS, la innovación de 16 núcleos de memoria apilados mediante TSVs, un die lógico que accede paralelamente a subarrays de flash y diseños para prevenir deformaciones en obleas de gran tamaño.
Dentro de este contexto, Raja Koduri aclara el impacto potencial de HBF en la IA, al destacar que los rendimientos de los modelos dependen principalmente de la capacidad de cálculo, de la memoria y del ancho de banda. HBF promete mejorar la capacidad de memoria a nivel económico, energético y espacial.
Especialmente diseñada para cargas de inferencia, esta arquitectura permitirá que las GPUs procesen en tiempo real modelos ya entrenados, afectando positivamente aplicaciones como chatbots, visión por ordenador y asistentes en el edge. Patterson resalta que HBF podría ser clave para permitir cargas a gran escala en centros de datos de IA, además de reducir los costos de nuevas aplicaciones que aún no son viables.
Para evaluar el estado del arte, una tabla comparativa revela cómo HBF se posiciona frente a tecnologías como HBM3e y GDDR6X en cuanto a capacidad, ancho de banda y consumo, al tiempo que perfila su utilidad en inferencia, edge y análisis a gran escala.
Koduri ha destacado la importancia de los estándares abiertos para facilitar la adopción de HBF, buscando una integración que permita el despliegue de modelos de IA tanto en la nube como en el edge. SanDisk, junto con socios en IA, espera introducir HBF en el segmento profesional, aunque no ha especificado una fecha de lanzamiento.
La introducción de High Bandwidth Flash representa una prometedora frontera en el diseño para inteligencia artificial, posiblemente redefiniendo la relación entre costo, capacidad y rendimiento en tareas de inferencia. Coduri y Patterson se encuentran en el centro de esta evolución, con el potencial de llevar capacidades avanzadas de memoria desde grandes centros de datos hasta dispositivos cotidianos.
Vía: SanDisk
