El crecimiento acelerado de la inteligencia artificial (IA) plantea un desafío significativo en términos de consumo energético. Según el Lawrence Berkeley National Laboratory, se estima que para 2028, los centros de datos podrían consumir hasta el 12 por ciento de la electricidad total de Estados Unidos. Ante esta situación, mejorar la eficiencia energética de estos centros se ha convertido en una prioridad para los científicos que buscan hacer que la IA sea más sostenible.
Con este objetivo en mente, investigadores del Instituto Tecnológico de Massachusetts (MIT) y del MIT-IBM Watson AI Lab han desarrollado una herramienta de predicción rápida que permite a los operadores de centros de datos estimar el consumo energético al ejecutar cargas de trabajo específicas de IA en procesadores o chips aceleradores. Este nuevo método proporciona estimaciones confiables en cuestión de segundos, a diferencia de las técnicas tradicionales que pueden tardar horas o incluso días en ofrecer resultados.
Un avance en la estimación energética
La herramienta, conocida como EnergAIzer, puede aplicarse a una amplia variedad de configuraciones de hardware, incluidas aquellas que aún no han sido implementadas. Esto permite a los operadores gestionar mejor los recursos limitados entre múltiples modelos y procesadores de IA, optimizando así la eficiencia energética. Además, esta innovación ofrece a los desarrolladores y proveedores de modelos la posibilidad de evaluar el consumo energético potencial antes del despliegue.
“El reto de la sostenibilidad en IA es una pregunta urgente que debemos abordar. Esperamos que nuestro método, rápido y conveniente, fomente una mayor conciencia sobre la reducción del consumo energético entre desarrolladores y operadores”, afirma Kyungmi Lee, investigadora postdoctoral del MIT y autora principal del estudio publicado recientemente.
Optimización del proceso predictivo
Dentro de un centro de datos, miles de unidades gráficas (GPUs) realizan operaciones para entrenar y desplegar modelos de IA. El consumo energético específico de cada GPU varía según su configuración y la carga que maneje. Los métodos tradicionales para predecir el consumo energético suelen descomponer una carga en pasos individuales, simulando cómo cada módulo dentro del GPU es utilizado uno por uno. Sin embargo, este enfoque puede resultar extremadamente lento cuando se trata de cargas grandes como el entrenamiento o preprocesamiento de datos.
Los investigadores del MIT decidieron acelerar este proceso utilizando información menos detallada pero más rápida de obtener. Descubrieron que muchas cargas laborales presentan patrones repetitivos que pueden ser aprovechados para generar estimaciones rápidas pero precisas del consumo energético.
Precisión en las evaluaciones energéticas
A pesar de la rapidez del modelo EnergAIzer, los investigadores identificaron que no consideraba todos los costos energéticos involucrados. Cada vez que un GPU ejecuta un programa, incurre en un costo fijo por configurarlo; además, cada operación sobre un conjunto de datos añade otro costo adicional. Las fluctuaciones en el hardware o conflictos al acceder o mover datos pueden impedir que un GPU utilice todo el ancho de banda disponible, lo cual ralentiza las operaciones y aumenta el consumo energético.
Para abordar estas variaciones y costos adicionales, los investigadores recopilaron mediciones reales desde GPUs para generar términos correctivos aplicados a su modelo estimativo. “De esta forma podemos obtener una estimación rápida que también es muy precisa”, explica Lee.
Perspectivas futuras
Al final, con solo proporcionar información sobre la carga laboral deseada —como el modelo AI a ejecutar y el número e longitud de entradas— EnergAIzer puede ofrecer una estimación del consumo energético en cuestión de segundos. Los usuarios también pueden modificar configuraciones del GPU o ajustar velocidades operativas para observar cómo estas decisiones impactan el consumo total.
Las pruebas realizadas con información real sobre cargas laborales mostraron que EnergAIzer podía estimar el consumo energético con un margen aproximado del 8 por ciento, comparable a métodos tradicionales mucho más lentos. En adelante, los investigadores planean probar EnergAIzer con las últimas configuraciones GPU y ampliar su aplicación a múltiples GPUs colaborando en una misma carga laboral.
“Para lograr un impacto real en sostenibilidad necesitamos herramientas capaces de proporcionar soluciones rápidas para estimar energía a lo largo del proceso completo: diseñadores hardware, operadores y desarrolladores deben ser más conscientes del consumo energético”, concluye Lee. Esta investigación cuenta con financiamiento parcial del MIT-IBM Watson AI Lab.
Si (
No(
