La tassa energetica dell'IA era già preoccupante. La ricerca afferma che gli agenti IA sono oltre cento volte peggiori.

      La crescente domanda di elettricità dell'industria dell'IA è già diventata una preoccupazione crescente per governi, utility e aziende tecnologiche. Ma un nuovo studio suggerisce che la prossima generazione di intelligenza artificiale potrebbe rendere quel problema significativamente peggiore.

      I ricercatori del Korea Advanced Institute of Science and Technology (KAIST) hanno pubblicato quella che descrivono come la prima analisi completa del costo energetico degli agenti IA – sistemi IA capaci di ragionare, pianificare e completare compiti in modo autonomo. I loro risultati mostrano che questi sistemi possono consumare fino a 136,5 volte più energia per query rispetto ai modelli IA generativi convenzionali, sollevando nuove domande su se l'infrastruttura che supporta l'IA di domani sia pronta per ciò che sta arrivando.

      Un'IA più intelligente comporta una bolletta elettrica molto più alta

      A differenza dei chatbot tradizionali che generano una singola risposta a un prompt, gli agenti IA chiamano ripetutamente grandi modelli linguistici (LLM), navigano in rete, eseguono codice, usano calcolatrici e interagiscono con software esterni mentre risolvono compiti complessi. Sebbene queste capacità li rendano significativamente più utili per la ricerca, la programmazione e l'automazione del lavoro, richiedono anche molte più risorse informatiche.

      Guidato dal professor Minsoo Rhu della Scuola di Ingegneria Elettrica del KAIST, il team di ricerca ha trattato gli agenti IA come una nuova categoria di carico di lavoro nei data center. Ha misurato i loro requisiti computazionali in scenari reali.

      OpenAI Unsplash

      I risultati sono stati sorprendenti. I ricercatori hanno scoperto che gli agenti IA possono aumentare la latenza di risposta fino a 153,7 volte rispetto al ragionamento convenzionale a catena di pensieri. Più sorprendentemente, le costose GPU che alimentano questi carichi di lavoro sono rimaste inattive fino al 54,5% del tempo di esecuzione mentre aspettavano che gli strumenti esterni completassero i loro compiti. In altre parole, l'hardware continua a consumare energia anche quando non sta eseguendo attivamente calcoli IA.

      L'uso energetico scala in modo altrettanto drammatico. Eseguire un agente IA alimentato da un modello linguistico di 70 miliardi di parametri, simile per dimensioni ai sistemi IA commerciali di oggi, richiedeva in media 348,41 wattora per query. Questo è circa 136,5 volte superiore rispetto a un chatbot convenzionale che risponde a una domanda semplice.

      Per comprendere le implicazioni più ampie, il team ha modellato un futuro in cui gli agenti IA gestiscono 13,7 miliardi di richieste al giorno – grosso modo equivalente al traffico di ricerca giornaliero di Google. In quel scenario, l'infrastruttura IA richiederebbe circa 198,9 gigawatt di elettricità, quasi la metà della potenza media consumata in tutto gli Stati Uniti e ben oltre la capacità degli attuali data center IA.

      Il costo nascosto dell'intelligenza

      I risultati arrivano mentre aziende come OpenAI, Google, Microsoft, Anthropic e altre investono sempre di più nell'IA agentica, posizionandola come il prossimo grande salto oltre i chatbot conversazionali. Ma lo studio sostiene che migliorare i modelli IA da solo non è più sufficiente. I progressi futuri dipenderanno altrettanto da semiconduttori più efficienti, migliore utilizzo delle GPU, progettazione più intelligente dei data center e infrastrutture energetiche espanse.

      Immagine rappresentativa Unsplash

      Il professor Rhu afferma che la ricerca dimostra che la competitività dell'IA si sta spostando dalla costruzione di "IA più intelligenti" alla costruzione di IA più efficienti. Il team crede che lo sviluppo futuro dell'IA richiederà un approccio di co-progettazione, ottimizzando modelli, chip IA, server e sistemi energetici insieme per mantenere i costi operativi gestibili e garantire che l'IA rimanga sostenibile su larga scala.

      Il documento, intitolato "Il costo del ragionamento dinamico: demistificare gli agenti IA e la scalabilità del tempo di test da una prospettiva di infrastruttura IA," è stato presentato al Simposio Internazionale IEEE sull'Architettura dei Computer ad Alte Prestazioni (HPCA) all'inizio di quest'anno. I ricercatori hanno anche reso open-source i loro benchmark per agenti IA, sperando di incoraggiare ulteriori lavori per ridurre uno dei costi in più rapida crescita dell'IA – e spesso trascurati –: l'elettricità.