En el reciente Generative AI Summit celebrado en Silicon Valley en 2025, Vishal Sarin, fundador y CEO de Sagence AI, se dirigió a uno de los desafíos más cruciales en el ámbito de la inteligencia artificial generativa: la demanda energética. En una entrevista con Tim Mitchell del AI Accelerator Institute, Sarin subrayó la necesidad apremiante de mejorar la eficiencia energética para que esta tecnología despliegue su verdadero potencial.
Sarin destacó que, a pesar de las oportunidades que ofrece la IA generativa, enfrenta un cuello de botella debido a los altos requerimientos energéticos. Según él, para que esta tecnología sea económica y sostenible, es esencial innovar en eficiencia energética, lo que implica redefinir la arquitectura de la inteligencia artificial desde los chips hasta los sistemas de refrigeración.
Durante el diálogo, se exploraron áreas clave para optimizar el consumo energético en la pila de IA. Si bien hay posibilidades en la generación y distribución de energía, el enfoque crucial radica en la computación y memoria, donde se concentra gran parte del uso energético debido a la transferencia de datos. Sarin sugirió que la adopción de la computación en memoria podría disminuir tanto los costos como el consumo de energía.
La computación en memoria, que busca integrar más estrechamente el cómputo con la memoria, representa un cambio fundamental. Las arquitecturas tradicionales, que separan estas funciones, incurren en un elevado consumo energético por el constante movimiento de datos. Esta innovación promete mejorar significativamente la eficiencia, especialmente en las tareas de inferencia del AI generativo.
Sarin también habló sobre los aceleradores de hardware, como las GPU, que aunque esenciales para el rendimiento, incrementan el consumo energético. Para superar las limitaciones actuales, sugirió combinar las virtudes de estos aceleradores con innovaciones arquitectónicas, como la computación en memoria. Además, consideró que los modelos de lenguaje pequeños podrían ser parte de la solución al ofrecer una alternativa más ligera que reduce la necesidad de infraestructuras extensivas.
Otro aspecto crítico abordado por Sarin fue la innovación en sistemas de refrigeración y energía. La infraestructura de alta densidad para IA genera una gran cantidad de calor, y las soluciones tradicionales ya no bastan. Innovaciones como el enfriamiento líquido y sistemas de recuperación de energía son vitales para mantener el consumo bajo control.
Con una mirada hacia el futuro, Sarin expresó optimismo sobre la capacidad de la industria para enfrentar estos desafíos. La prioridad hacia la eficiencia y sostenibilidad se ha intensificado, lo que sugiere un futuro más prometedor para la IA generativa. Su visión es clara: superar las barreras de eficiencia energética es una necesidad, no una opción, y estas innovaciones serán determinantes para que la IA generativa ofrezca un valor transformador a largo plazo.
