Google Замороженный чип: Gemini запечён в кремнии

      Большинство чипов ИИ являются универсальными. Вы загружаете на них модель, и они ее запускают. Сообщается, что Google пытается сделать что-то более странное: чип, который является моделью, с чертежом Gemini, выгравированным в самом оборудовании.

      Проект, неофициально названный «Frozen v2», был освещен изданием The Information и подхвачен Reuters и Bloomberg Law. Акции Alphabet выросли на 3,7% на этих новостях. Google не подтвердила проект, и чип находится на стадии разработки в течение нескольких лет. Но идея, стоящая за этим, является серьезной ставкой на то, куда движется инфраструктура ИИ дальше.

      Что означает «замороженный»

      Сегодняшние чипы хранят модель в памяти и передают ее данные взад и вперед. Эта гибкость требует энергии и времени.

      Frozen v2 будет интегрировать архитектуру нейронной сети Gemini прямо в схемы. Оборудование будет зафиксировано в форме текущего дизайна ИИ Google. Инженеры все еще могут обновлять модель, загружая новые веса, но основная структура остается фиксированной или «замороженной». Сообщается, что еще решается, сколько из модели будет жестко запрограммировано.

      Преимущество заключается в эффективности. The Information сообщает, что чип может быть в 6-10 раз более эффективным, чем последние пользовательские чипы ИИ Google, измеряемые по количеству токенов, обслуживаемых на единицу энергии. Это будет новая линия кремния, отдельная от TPU Google, а не замена. Запуск намечен на 2028 год.

      Почему это важно

      Сроки не случайны. The Information утверждает, что Frozen v2 частично является ответом на нехватку мощностей ИИ внутри Google. Давление настолько велико, что Google Cloud отказал некоторым внешним клиентам, и это вызвало внутренние напряжения.

      Эффективность сейчас является ключевым фактором. Запуск моделей ИИ обходится очень дорого, и каждый сэкономленный ватт на уровне дата-центра — это деньги. Чип, настроенный на одну модель, может значительно снизить накладные расходы, которые несет универсальный чип.

      Он также будет быстрым. Поскольку дизайн фиксирован, чип может отвечать с очень небольшой задержкой. Как отметил один наблюдатель, это подходит для использования в реальном времени, например, для голосовых помощников, где задержка является врагом.

      Существует и стратегический аспект. Google уже разрабатывает свои собственные TPU, чтобы снизить зависимость от Nvidia. Чип, специфичный для Gemini, еще больше укрепит эту независимость, углубляя усилия, которые также привели к тому, что Google распределил свои заказы на чипы среди поставщиков.

      Google не одинока

      Этот подход не уникален для Google. Стартап под названием Taalas уже продает эту идею, печатая веса и архитектуру модели прямо на чипе, который он называет Hardcore.

      Заявленные цифры впечатляют. Taalas утверждает, что его чип обрабатывает до 17,000 токенов в секунду, по сравнению с примерно 150 на пользователя на топовом GPU Nvidia. Он утверждает, что не требует дорогой памяти с высокой пропускной способностью, что облегчает нехватку памяти, сжимающую индустрию.

      Это более широкая ставка. Если модель может существовать в кремнии, вы меняете гибкость на скорость, стоимость и мощность. Для компании, обслуживающей одну модель для миллиардов людей, такая сделка может иметь смысл. Это тот же инстинкт, который стоит за усилиями по уменьшению моделей для телефонов.

      Подводный камень

      Очевидный риск заключается в жесткости. ИИ движется быстро, и чип, построенный вокруг сегодняшнего Gemini, может выглядеть устаревшим к 2028 году. Дизайн Google пытается смягчить это, позволяя обновлять веса, но архитектура все равно остается заранее заданной.

      Затем есть небольшая деталь подтверждения. Google не признала проект. Представитель компании сказал только, что ее команды экспериментируют с высокоэффективными идеями и что не каждый лабораторный проект достигает стадии производства.

      Поэтому рассматривайте Frozen v2 как сигнал, а не как готовый продукт. Сигнал достаточно ясен. Соревнование за пользовательский ИИ-кремний переходит от запуска любой модели к слиянию одной модели с металлом. Если Google справится с этим, его соперникам придется ответить.