Энергетический налог на ИИ уже вызывал беспокойство. Исследования показывают, что агенты ИИ в сто раз хуже.

      Спрос на электроэнергию в индустрии ИИ уже стал растущей проблемой для правительств, коммунальных служб и технологических компаний. Однако новое исследование предполагает, что следующее поколение искусственного интеллекта может значительно усугубить эту проблему.

      Исследователи из Корейского передового института науки и технологий (KAIST) опубликовали то, что они описывают как первое всестороннее исследование энергетических затрат агентов ИИ – ИИ-систем, способных к рассуждению, планированию и выполнению задач автономно. Их результаты показывают, что эти системы могут потреблять до 136,5 раз больше энергии на запрос, чем традиционные генеративные модели ИИ, поднимая новые вопросы о том, готова ли инфраструктура, поддерживающая ИИ завтрашнего дня, к тому, что нас ждет.

      Умный ИИ требует гораздо более высокой оплаты за электроэнергию

      В отличие от традиционных чат-ботов, которые генерируют единственный ответ на запрос, агенты ИИ многократно обращаются к большим языковым моделям (LLM), просматривают веб, выполняют код, используют калькуляторы и взаимодействуют с внешним программным обеспечением, решая сложные задачи. Хотя эти возможности делают их значительно более полезными для исследований, программирования и автоматизации на рабочем месте, они также требуют гораздо больше вычислительных ресурсов.

      Под руководством профессора Минсу Рху из Школы электротехники KAIST исследовательская группа рассматривала агентов ИИ как новую категорию нагрузки в центрах обработки данных. Они измерили их вычислительные требования в реальных сценариях.

      Результаты были поразительными. Исследователи обнаружили, что агенты ИИ могут увеличить задержку ответа до 153,7 раз по сравнению с традиционным рассуждением в цепочке. Более удивительно, что дорогие графические процессоры, обеспечивающие эти нагрузки, оставались неактивными до 54,5 процента времени выполнения, ожидая завершения задач внешними инструментами. Другими словами, оборудование продолжает потреблять электроэнергию, даже когда оно не выполняет активные вычисления ИИ.

      Энергетические затраты также увеличиваются столь же драматично. Запуск агента ИИ, работающего на языковой модели с 70 миллиардами параметров, аналогичной по размеру современным коммерческим системам ИИ, требовал в среднем 348,41 ватт-часа на запрос. Это примерно в 136,5 раз больше, чем у традиционного чат-бота, отвечающего на простой вопрос.

      Чтобы понять более широкие последствия, команда смоделировала будущее, в котором агенты ИИ обрабатывают 13,7 миллиарда запросов в день – примерно эквивалентно ежедневному трафику поиска Google. В этом сценарии инфраструктура ИИ потребует примерно 198,9 гигаватт электроэнергии, что почти вдвое превышает среднее потребление электроэнергии по всей территории Соединенных Штатов и значительно превышает мощность современных центров обработки данных ИИ.

      Скрытая цена интеллекта

      Результаты исследования появляются в то время, когда такие компании, как OpenAI, Google, Microsoft, Anthropic и другие, все больше инвестируют в агентный ИИ, позиционируя его как следующий крупный шаг вперед по сравнению с разговорными чат-ботами. Однако исследование утверждает, что улучшение моделей ИИ само по себе больше не достаточно. Будущее развитие будет зависеть в равной степени от более эффективных полупроводников, лучшего использования графических процессоров, более умного проектирования центров обработки данных и расширенной энергетической инфраструктуры.

      Профессор Рху говорит, что исследование демонстрирует, что конкурентоспособность ИИ смещается от создания «умного ИИ» к созданию более эффективного ИИ. Команда считает, что будущее развитие ИИ потребует подхода совместного проектирования, оптимизируя модели, чипы ИИ, серверы и энергетические системы вместе, чтобы поддерживать управляемые эксплуатационные расходы и обеспечить устойчивость ИИ в масштабах.

      Статья под названием «Цена динамического рассуждения: демистификация агентов ИИ и масштабирование во время тестирования с точки зрения инфраструктуры ИИ» была представлена на Международном симпозиуме IEEE по архитектуре высокопроизводительных компьютеров (HPCA) ранее в этом году. Исследователи также открыли свои бенчмарки агентов ИИ, надеясь поощрить дальнейшую работу по снижению одной из самых быстрорастущих – и часто игнорируемых – затрат ИИ: электроэнергии.