En un desarrollo que marca un nuevo estándar en infraestructura de inteligencia artificial, CoreWeave ha dado un paso sin precedentes al convertirse en el primer proveedor cloud a nivel mundial en implementar la plataforma NVIDIA GB300 NVL72. Esta innovadora solución, que incorpora las nuevas GPU Blackwell Ultra, sitúa a CoreWeave por delante de gigantes de la industria como AWS, Google Cloud y Microsoft Azure, brindando acceso a la tecnología más avanzada para cargas de inteligencia artificial generativa y razonamiento multimodal.
La plataforma GB300 NVL72 representa un avance radical en la arquitectura Blackwell de NVIDIA, ofreciendo hasta diez veces más velocidad en la respuesta de agentes conversacionales y cinco veces más rendimiento por vatio comparado con sus predecesores. El sistema NVL72, equipado con 72 GPUs Blackwell Ultra y 36 CPUs Grace, así como 36 DPUs BlueField-3, proporciona una capacidad de inferencia de 1,1 exaFLOPS FP4 por rack, colocándolo como uno de los sistemas más potentes disponibles al público.
En comparación, otros hyperscalers como AWS y Microsoft Azure no logran alcanzar los mismos niveles de potencia y eficiencia. AWS, utilizando el Trn2 Accelerator, estima una capacidad de 0,3 exaFLOPS, mientras que Microsoft Azure alcanza los 0,8 exaFLOPS/rack con su ND MI300x v5. CoreWeave supera a estos competidores, no solo en términos de potencia bruta, sino también en eficiencia energética y rapidez en el despliegue de estas avanzadas tecnologías.
CoreWeave no se queda únicamente en el hardware. Ha integrado su nueva plataforma con una completa pila de software cloud-native, incluyendo servicios como CoreWeave Kubernetes Service y Slurm on Kubernetes, que optimizan la gestión y el mantenimiento de las cargas de trabajo de inteligencia artificial. Esta integración asegura que los ingenieros de inteligencia artificial puedan ajustar y escalar sus modelos con un nivel de visibilidad sin precedentes.
Destacando aún más su liderazgo, CoreWeave ha logrado entrenar el modelo Llama 3.1 con 405.000 millones de parámetros en un tiempo récord de 27,3 minutos. Este logro, alcanzado junto a NVIDIA e IBM, ha consolidado su posición como un referente en la computación de inteligencia artificial, recibiendo reconocimiento como el único proveedor con certificación Platinum en el sistema ClusterMAX™ de SemiAnalysis.
Según David Carrero, cofundador de Stackscale, «El despliegue de los sistemas GB300 NVL72 demuestra que estamos entrando en una nueva era de infraestructura cloud”. Carrero subraya la importancia de la integración entre hardware, software y observabilidad como clave para el éxito de CoreWeave en esta competencia tecnológica.
CoreWeave planea expandir estos sistemas a sus centros de datos en Norteamérica y Europa en 2025, apostando por un futuro donde cada segundo y cada vatio son cruciales. Con este despliegue, la compañía reafirma su compromiso de ofrecer a laboratorios, startups y empresas de inteligencia artificial un entorno óptimo y listo para los desafíos de la próxima generación de modelos fundacionales.
