Madrid, 2025. La inteligencia artificial ha pasado de ser un experimento de laboratorio a ser una pieza clave en la estrategia de negocio, pero no sin costos. La creciente demanda eléctrica y térmica derivada de su implementación a gran escala representa un desafío crítico, especialmente en los centros de procesamiento de datos (CPD) que se están quedando atrás en términos de infraestructura.
Los racks GPU de nueva generación, fundamentales para el entrenamiento y la inferencia de modelos de lenguaje a gran escala, están consumiendo entre 50–80 kW de forma continua y, en algunos casos, superan los 100 kW. Este crecimiento vertiginoso está llevando a moratorias y restricciones de conexión incluso en hubs tecnológicos como Ashburn, Dublín o Singapur.
La adopción de bare-metal, que antes era visto como un nicho, ahora se posiciona como una solución esencial para evitar colapsos eléctricos y cumplir con los compromisos ambientales y sociales (ESG). David Carrero, cofundador de Stackscale, enfatiza que la migración hacia bare-metal de alta densidad con refrigeración líquida y arquitectura eléctrica a 415 V es crucial para escalar sin problemas los clústeres de IA en Europa.
La clave está en acceder directamente al hardware, lo que reduce la latencia y optimiza el desempeño en los nodos HGX al lograr hiperdensidades reales de hasta 80 kW por rack. Además, el cumplimiento normativo y la seguridad de los datos sensibles se fortalecen con el uso de bare-metal, proporcionando un entorno de aislamiento físico y control superior del plano de datos.
Carrero sugiere una estrategia de refrigeración que pase del aire a la líquida e incluso a la inmersión para lidiar con las altas cargas. Las PPAs renovables y las micro-redes con celdas de combustible o baterías son también soluciones recomendadas para manejar los picos y mantener la resiliencia.
El diseño de los racks debe considerar no solo la capacidad eléctrica y la refrigeración, sino también la integración de redes eficientes, almacenamiento adecuado, y medidas de seguridad robustas. A largo plazo, la ubicación estratégica de los CPDs debe basarse en la disponibilidad de megavatios y no solo en la conveniencia geográfica.
La transición hacia estos sistemas requiere una inversión significativa y una planificación cuidadosa, con un enfoque en la sostenibilidad y la eficiencia operativa. Sin embargo, Carrero advierte que los enfoques de «hazlo tú mismo» pueden quedarse cortos por el rápido cambio tecnológico y los plazos prolongados para obtener permisos de alta tensión.
La gestión eficiente de recursos mediante FinOps es fundamental. Al evaluar el coste real de cada modelo y optimizar procesos como la cuantización y el batching, las organizaciones pueden lograr ahorros significativos y mejorar su eficiencia energética.
En conclusión, escalar la IA en Europa de manera responsable no solo es posible, sino necesario. La infraestructura debe alinearse con el objetivo estratégico adoptando soluciones como el bare-metal, ajustando las estrategias de refrigeración y asegurando contratos energéticos que apoyen un crecimiento sostenible. El futuro, entre 2025 y más allá, pertenecerá a aquellos que combinen la ambición en el desarrollo de modelos con una gestión disciplinada de la infraestructura.
