En el marco del Generative AI Summit Silicon Valley 2025, Vishal Sarin, fundador y CEO de Sagence AI, abordó uno de los desafíos más apremiantes en el ámbito de la inteligencia artificial generativa: la demanda de energía. Durante una entrevista con Tim Mitchell, líder de línea de negocio en el AI Accelerator Institute, Sarin destacó la urgente necesidad de optimizar la eficiencia energética para que esta tecnología pueda alcanzar su verdadero potencial.
Sarin señaló que, a pesar de las inmensas oportunidades que ofrece el AI generativo, se enfrenta a un cuello de botella significativo debido a los altos requerimientos energéticos. Para que esta tecnología sea económicamente viable, es esencial liberar la innovación en eficiencia energética, lo que implica repensar la arquitectura de la inteligencia artificial desde los chips hasta los sistemas de refrigeración.
El diálogo exploró las áreas clave donde se pueden realizar mejoras significativas en el consumo energético a lo largo de la pila de IA. Aunque hay oportunidades en la generación y distribución de energía, el enfoque más crucial está en la computación y memoria, donde la mayor parte de la energía se gasta en la transferencia de datos. Sarin enfatizó que la implementación de la computación en memoria podría reducir tanto costos como el consumo energético.
La computación en memoria, que busca integrar más estrechamente el proceso de cómputo con la memoria, se presenta como un cambio fundamental. En las arquitecturas tradicionales, estas funciones están separadas, lo que genera un alto consumo energético debido al continuo movimiento de datos. Esta innovación promete una mejora significativa en la eficiencia energética, especialmente en las tareas de inferencia del AI generativo.
Sarin también abordó el papel de los aceleradores de hardware, como las GPU, que aunque son fundamentales para el rendimiento, contribuyen al alto consumo energético. Para superar las limitaciones actuales, se requiere combinar las fortalezas de estos aceleradores con innovaciones arquitectónicas, como la computación en memoria. Además, mencionó que los modelos de lenguaje pequeños (SLMs) pueden ser parte de la solución, al ofrecer una alternativa más ligera que reduce la necesidad de infraestructuras masivas.
Otro aspecto crítico destacado por Sarin es la innovación en sistemas de refrigeración y energía. La infraestructura de alta densidad para IA genera una cantidad considerable de calor y las soluciones tradicionales ya no son suficientes. Innovaciones como el enfriamiento líquido y sistemas de recuperación de energía son esenciales para mantener el consumo de energía bajo control.
Mirando hacia el futuro, Sarin expresó optimismo sobre la capacidad de la industria para afrontar estos desafíos. La alineación hacia la eficiencia y la sostenibilidad se ha convertido en una prioridad, prometiendo un futuro más viable para el AI generativo. La visión de Sarin es clara: romper las barreras de eficiencia energética no es una opción, sino una necesidad, y estas innovaciones determinarán si el AI generativo puede ofrecer un valor transformador a largo plazo.
