Cloudflare ha anunciado el despliegue general de su próxima generación de servidores, la Generación 12 (Gen 12), equipados con procesadores AMD EPYC 9684X (cuyo nombre en clave es «Genoa-X»). Estos nuevos servidores están diseñados para ofrecer un rendimiento excepcional en todos los servicios de la compañía, mejorando el soporte para cargas de trabajo de inteligencia artificial (IA) y aprendizaje automático (ML), logrando avances significativos en eficiencia energética y optimizando las características de seguridad.
Entre las principales mejoras que aporta esta nueva generación se destacan varias. En primer lugar, se ha logrado duplicar el rendimiento gracias a una estrecha colaboración entre Cloudflare y AMD, permitiendo que los servidores Gen 12 puedan manejar más del doble de solicitudes por segundo (RPS) que la generación anterior, Gen 11, reduciendo así los costos de infraestructura. Asimismo, la eficiencia energética ha aumentado en más del 60 %, lo cual contribuye a disminuir los gastos operativos y la huella de carbono de la empresa.
El diseño termo-mecánico de los nuevos servidores ha sido actualizado para soportar GPUs más potentes, lo que permite manejar modelos de lenguaje más grandes y mejorar el rendimiento para modelos más pequeños. Además, Cloudflare ha reforzado las características de seguridad al integrar capacidades de hardware root of trust (HRoT) para garantizar la integridad del firmware de arranque y del controlador de gestión de la placa. El módulo de control seguro de centros de datos (DC-SCM) es ahora modular y agnóstico al proveedor, facilitando una imagen unificada de openBMC y un prototipado más ágil.
Cloudflare también ha adoptado una sólida estrategia de múltiples proveedores para garantizar la continuidad y resiliencia en el despliegue de su infraestructura, mitigando los riesgos en la cadena de suministro.
En cuanto a las especificaciones técnicas, los servidores Gen 12 cuentan con un factor de forma 2U1N con un solo socket, procesadores AMD EPYC 9684X de 96 núcleos, 384 GB de memoria DDR5-4800 en 12 canales de memoria y 16 TB de almacenamiento NVMe E1.S. Este modelo también incluye red dual de 25 GbE OCP 3.0 y una fuente de alimentación de 800W – Grado Titanium.
La comparativa de modelos de CPU evaluados para la Gen 12 muestra que las diferencias radican principalmente en la cantidad de núcleos, hilos y caché L3. El AMD EPYC 9684X «Genoa-X» con tecnología 3D V-cache ofreció la mayor mejora, con un rendimiento 2,45 veces superior al AMD EPYC 7713 «Milan» de la generación anterior.
En las pruebas, todas las CPUs evaluadas superaron en rendimiento al menos en dos veces a la generación anterior. Específicamente, el AMD EPYC 9684X «Genoa-X» mostró un rendimiento un 2,45 veces superior al AMD EPYC 7713 «Milan» utilizado en los servidores Gen 11.
A pesar de que el consumo del servidor Gen 12 aumentó a 600 vatios, un incremento del 50 % respecto al Gen 11, ofrece un aumento del 145 % en rendimiento, mejorando la eficiencia energética en un 63 %. Esta mejora contribuye a la reducción significativa de los gastos operativos y de la huella de carbono.
En términos de memoria y almacenamiento, los servidores Gen 12 utilizan memoria DDR5 con doce canales completamente utilizados, proporcionando un mayor ancho de banda y eficiencia, con 384 GB de memoria configurada. Se ha realizado la transición del factor de forma de almacenamiento M.2 al E1.S, equipando los servidores con dos unidades NVMe de 8 TB cada una, totalizando 16 TB de almacenamiento.
La red y conectividad también han sido actualizadas, utilizando tarjetas compatibles con OCP 3.0, como los adaptadores Intel Ethernet Network Adapter E810 y NVIDIA Mellanox ConnectX-6 Lx, mejorando el rendimiento y reduciendo la carga en el kernel.
En cuanto a la seguridad, los servidores Gen 12 integran el Project Argus, una de las primeras implementaciones de Data Center Secure Control Module 2.0 (DC-SCM 2.0), desacoplando las funciones de gestión y seguridad del servidor de la placa base.
Finalmente, para hacer frente a la creciente demanda de cargas de trabajo de IA y ML, Cloudflare ha diseñado el servidor Gen 12 para acomodar GPUs más potentes, apoyando su servicio Workers AI y permitiendo el despliegue estratégico de GPUs en regiones clave para reducir la latencia de inferencia para sus clientes.
Los servidores Gen 12 ya están operando en múltiples centros de datos de Cloudflare a nivel mundial, procesando millones de solicitudes por segundo. La compañía ya está explorando la próxima generación, con CPUs AMD EPYC de 5ª generación (nombre en clave «Turin») disponibles para pruebas y planificación del servidor Gen 13.
