En el dinámico y competitivo mundo de la inteligencia artificial, CoreWeave ha dado un salto significativo al ser uno de los primeros proveedores en habilitar amplios sistemas NVIDIA GB200 NVL72 en la nube. Con este desarrollo, más de mil unidades de procesamiento gráfico (GPUs) Grace Blackwell se encuentran ahora al alcance de empresas como Cohere, IBM y Mistral AI, las cuales buscan entrenar y desplegar agentes de IA avanzados con una potencia inigualable.
Los sistemas NVL72, específicamente diseñados para manejar cargas masivas de trabajo de IA, incorporan una estructura de 72 GPUs interconectadas por NVLink y 36 CPUs Grace. Esta combinación avanzada propicia un procesamiento de datos eficiente y rápido, con un enfoque marcado en la escalabilidad y el ahorro energético.
Para Cohere, una compañía destacada en el plano de soluciones empresariales de IA, la llegada de estos sistemas ha sido revolucionaria. Utilizando su plataforma North, la empresa reporta que ha experimentado un rendimiento hasta tres veces superior en la formación de modelos gigantescos de 100.000 millones de parámetros comparado con los GPUs Hopper anteriores. Autumn Moulder, la vicepresidenta de ingeniería en Cohere, subrayó la facilidad de integración y la mejora en las inferencias logradas gracias a la memoria unificada y la precisión FP4 de NVL72.
IBM, por su parte, ha intensificado el entrenamiento de su familia de modelos Granite, orientados a la seguridad y eficiencia en aplicaciones empresariales de inteligencia artificial. La colaboración con CoreWeave se perfila como un movimiento estratégico para reducir costos y potenciar la creación de modelos open source. Sriram Raghavan, vicepresidente de IA de IBM Research, enfatizó que este acuerdo permitirá a IBM desarrollar soluciones más efectivas para automatizar flujos de trabajo mediante asistentes de IA, a través de su oferta IBM watsonx Orchestrate.
La startup francesa Mistral AI, conocida por sus modelos de código abierto experimentales, también se beneficia notablemente de las nuevas capacidades. Con una mejora del 2x en el entrenamiento de sus modelos densos, según Thimothee Lacroix, cofundador y CTO, la empresa vislumbra oportunidades emocionantes para ampliar el alcance y la rapidez de sus modelos lingüísticos.
El despliegue generalizado de GPUs Blackwell en CoreWeave es más que una mejora técnica; es un paso hacia un futuro donde las empresas puedan manejar modelos de IA de mayor complejidad con facilidad, todo alimentado por una infraestructura robusta que promete posicionar a CoreWeave y NVIDIA a la vanguardia de la innovación en inteligencia artificial.
En conclusión, la implementación de los sistemas NVL72 demuestra un avance crucial en la carrera por perfeccionar la infraestructura de IA, ofreciéndole a empresas de vanguardia las herramientas necesarias para continuar desarrollando aplicaciones de una inteligencia sin precedentes. La asociación estratégica entre CoreWeave y NVIDIA ejemplifica claramente el liderazgo tecnológico necesario para afrontar los desafíos de la próxima generación de inteligencia artificial.
