Oracle se posiciona a la vanguardia tecnológica con el reciente anuncio de sus nuevas instancias bare metal en Oracle Cloud Infrastructure (OCI), impulsadas por las GPUs AMD Instinct™ MI355X. Esta última generación, sucesora del modelo MI300X, ofrece un incremento significativo en sus capacidades, incluyendo más memoria HBM3e y un mayor ancho de banda, destacándose por sus nuevas precisiones FP4/FP6/FP8 gracias a la arquitectura CDNA 4. Con esta innovación, Oracle se convierte en el primer hiperescalador en ofrecer públicamente la MI355X, siendo además el único que combina en su catálogo ambas versiones de estas GPUs.
La MI355X supone importantes mejoras respecto a su predecesora. Cada GPU ahora cuenta con 288 GB de memoria HBM3e, un aumento del 50%, y ofrece un ancho de banda de 8 TB/s, incrementando un 51% la capacidad. Además, las nuevas precisiones permiten mejorar el rendimiento hasta 2,5 veces en comparación con la generación anterior. Los servidores se apoyan en CPUs EPYC de quinta generación con 128 núcleos y están equipados con 3 TB de RAM DDR5 y un almacenamiento local NVMe que se ha duplicado, alcanzando los 61,44 TB.
En cuanto a la escalabilidad, las instancias ahora admiten una red de 400 Gbps en su front-end y racks refrigerados por líquido que soportan hasta 64 GPUs por bastidor. La infraestructura para entrenamiento distribuido alcanza 3.200 Gbps, situando a Oracle en una posición destacada para aquellos que buscan optimizar sus cargas de trabajo de inteligencia artificial y HPC.
La nueva instancia, identificada como BM.GPU.MI355X.8, incluye 8 GPUs AMD Instinct™ MI355X y ofrece un precio competitivo que comienza en 8,60 dólares por hora. Está diseñada para facilitar el entrenamiento de modelos de lenguaje de gran tamaño (LLMs) y otras soluciones avanzadas en IA, así como aplicaciones en ámbitos como genómica y finanzas.
Oracle reafirma su compromiso con la innovación en la nube mediante su OCI Supercluster Zettascale, que puede escalar hasta 131.072 GPUs y utiliza una red RDMA de alta velocidad para garantizar un rendimiento óptimo.
A través de la plataforma ROCm™ de AMD, estas instancias son compatibles con los principales frameworks de aprendizaje automático, como PyTorch y TensorFlow, y permiten la migración desde CUDA sin requerir reescrituras significativas.
Clientes como Absci y Seekr ya se benefician de estas innovaciones, acelerando el descubrimiento de fármacos y entrenando modelos de IA explicable, respectivamente. Oracle está permitiendo que empresas de todo el mundo avancen hacia la industrialización de la inteligencia artificial, reforzando su posición en un mercado cada vez más competitivo y demandante de recursos avanzados.
