El impuesto energético de la IA ya era preocupante. La investigación dice que los agentes de IA son más de cien veces peores.

      La creciente demanda de electricidad de la industria de la IA ya se ha convertido en una preocupación creciente para los gobiernos, las empresas de servicios públicos y las compañías tecnológicas. Pero un nuevo estudio sugiere que la próxima generación de inteligencia artificial podría agravar significativamente ese problema.

      Investigadores del Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) han publicado lo que describen como el primer análisis integral del costo energético de los agentes de IA: sistemas de IA capaces de razonar, planificar y completar tareas de forma autónoma. Sus hallazgos muestran que estos sistemas pueden consumir hasta 136.5 veces más energía por consulta que los modelos de IA generativa convencionales, planteando nuevas preguntas sobre si la infraestructura que apoya la IA del mañana está lista para lo que se avecina.

      La IA más inteligente viene con una factura eléctrica mucho más alta

      A diferencia de los chatbots tradicionales que generan una única respuesta a un aviso, los agentes de IA llaman repetidamente a grandes modelos de lenguaje (LLMs), navegan por la web, ejecutan código, utilizan calculadoras e interactúan con software externo mientras resuelven tareas complejas. Si bien estas capacidades los hacen significativamente más útiles para la investigación, la programación y la automatización en el lugar de trabajo, también requieren muchos más recursos informáticos.

      Dirigido por el profesor Minsoo Rhu de la Escuela de Ingeniería Eléctrica de KAIST, el equipo de investigación trató a los agentes de IA como una nueva categoría de carga de trabajo en centros de datos. Se midieron sus requisitos computacionales en escenarios del mundo real.

      Los resultados fueron sorprendentes. Los investigadores encontraron que los agentes de IA pueden aumentar la latencia de respuesta hasta 153.7 veces en comparación con el razonamiento convencional en cadena de pensamiento. Más sorprendentemente, las costosas GPU que alimentan estas cargas de trabajo permanecieron inactivas hasta el 54.5 por ciento del tiempo de ejecución mientras esperaban que las herramientas externas terminaran sus tareas. En otras palabras, el hardware sigue consumiendo energía incluso cuando no está realizando activamente cálculos de IA.

      El uso de energía escala de manera igualmente dramática. Ejecutar un agente de IA alimentado por un modelo de lenguaje de 70 mil millones de parámetros, similar en tamaño a los sistemas de IA comerciales de hoy, requería un promedio de 348.41 vatios-hora por consulta. Eso es aproximadamente 136.5 veces más que un chatbot convencional respondiendo a una pregunta sencilla.

      Para comprender las implicaciones más amplias, el equipo modeló un futuro donde los agentes de IA manejan 13.7 mil millones de solicitudes por día, aproximadamente equivalente al tráfico de búsqueda diario de Google. Bajo ese escenario, la infraestructura de IA requeriría aproximadamente 198.9 gigavatios de electricidad, casi la mitad de la potencia promedio consumida en todo Estados Unidos y muy por encima de la capacidad de los centros de datos de IA de hoy.

      El costo oculto de la inteligencia

      Los hallazgos llegan en un momento en que empresas como OpenAI, Google, Microsoft, Anthropic y otras invierten cada vez más en IA agente, posicionándola como el próximo gran salto más allá de los chatbots conversacionales. Pero el estudio argumenta que mejorar los modelos de IA por sí solo ya no es suficiente. El progreso futuro dependerá igualmente de semiconductores más eficientes, mejor utilización de GPU, un diseño más inteligente de centros de datos y una infraestructura energética ampliada.

      El profesor Rhu dice que la investigación demuestra que la competitividad de la IA está cambiando de construir "IA más inteligente" a construir IA más eficiente. El equipo cree que el desarrollo futuro de la IA requerirá un enfoque de co-diseño, optimizando modelos, chips de IA, servidores y sistemas energéticos juntos para mantener los costos operativos manejables y asegurar que la IA siga siendo sostenible a gran escala.

      El artículo, titulado “El Costo del Razonamiento Dinámico: Desmitificando los Agentes de IA y la Escalabilidad en Tiempo de Prueba desde una Perspectiva de Infraestructura de IA”, fue presentado en el Simposio Internacional de IEEE sobre Arquitectura de Computadoras de Alto Rendimiento (HPCA) a principios de este año. Los investigadores también han liberado sus benchmarks de agentes de IA, con la esperanza de fomentar un mayor trabajo en la reducción de uno de los costos de más rápido crecimiento de la IA—y a menudo pasado por alto—: la electricidad.