Oracle ha lanzado su nuevo supercluster de Oracle Cloud Infrastructure (OCI) con disponibilidad general, equipado con las innovadoras GPUs Nvidia H200. Esta tecnología promete un rendimiento excepcional para aplicaciones de inteligencia artificial, alcanzando picos de hasta 260 exaflops en precisión FP8, según lo comunicado por la empresa.
El nuevo supercluster se presenta como la infraestructura de IA más grande basada en la nube actualmente disponible, capaz de escalar hasta 65.536 GPUs H200. Las instancias de cómputo ofrecen un significativo aumento en capacidades técnicas, proporcionando un 76 % más de memoria de alta velocidad y un 40 % más de ancho de banda de memoria comparado con las instancias H100. Este incrementado potencial técnico mejora notablemente el rendimiento de la inferencia en modelos de lenguaje de gran escala, hasta en 1,9 veces.
Diseñado con una red de clúster personalizable que opera sobre RDMA en Ethernet Convergente Versión 2 (RoCE v2), el sistema facilita interconexiones de hasta 400 Gbps entre GPUs. Además, su red frontal de 200 Gbps asegura una eficiente transferencia de grandes volúmenes de datos desde el almacenamiento hasta las GPUs. Cada instancia bare metal en el supercluster está equipada con ocho GPUs Nvidia H200, 141 GB de memoria HBM3e y dos CPUs Intel Sapphire Rapids 8480+ de 56 núcleos.
Manteniendo su competitividad en costos, Oracle ofrece estas avanzadas instancias de GPUs a un precio de 10 dólares por GPU por hora, idéntico al de las instancias H100. Este atractivo costo abre la puerta a empresas que buscan implementar soluciones de IA de vanguardia sin comprometer su presupuesto.
El supercluster no solo mejora significativamente a su predecesor, el H100, que alcanzaba un máximo de 16.384 GPUs, sino que también se consolida como una opción preferente para gestionar enormes cargas de trabajo, como el entrenamiento e inferencia de modelos de IA avanzados.
Mirando hacia el futuro, Oracle ha anunciado sus planes para desarrollar un supercluster aún más avanzado, que incluirá hasta 131.072 GPUs Nvidia Blackwell. Este proyecto, previsto para su lanzamiento en la primera mitad de 2025, subraya el compromiso de Oracle con el liderazgo en innovación en computación en la nube para IA.
Con el nuevo supercluster de Nvidia H200, Oracle redefine los límites en las aplicaciones de computación en la nube para inteligencia artificial. A través de su escalabilidad y precios competitivos, se convierte en una herramienta esencial para empresas que buscan implementar la IA para abordar desafíos complejos, desde el análisis de datos hasta la creación de avanzados modelos de lenguaje.
Este avance no solo responde a las actuales exigencias de procesamiento masivo, sino que también prepara el terreno para futuros desarrollos en inteligencia artificial y alto rendimiento computacional, estableciendo nuevos estándares en el sector tecnológico.
