Kimi K3 так популярен, что Moonshot приостановил новые регистрации.

      Moonshot AI столкнулась с проблемой, о которой большинство стартапов могут только мечтать. Ее новая модель Kimi K3 оказалась настолько популярной, что не хватило вычислительных мощностей, чтобы обслужить всех. Поэтому китайская лаборатория приостановила новые регистрации.

      За последние 48 часов спрос "приблизился к пределам нашей текущей мощности", заявила компания в X. Проще говоря: "Наши GPU это чувствуют."

      Что изменил Moonshot

      Новые подписки приостановлены на данный момент. Существующие подписчики не пострадали, и Moonshot заявляет, что направляет все свои свободные вычислительные мощности на них, чтобы поддерживать стабильность сервиса. Новые слоты будут открываться поэтапно, в контролируемых партиях, а не сразу.

      Компания также разделила свои планы на две категории. Один уровень, Kimi Membership, охватывает веб, приложение и продукты Work. Отдельный уровень Kimi Code Membership предназначен для программирования. Moonshot утверждает, что разделение позволяет более равномерно распределять вычислительные мощности между различными типами пользователей.

      Это различие имеет значение. Кодирование и агентные задачи требуют больших вычислительных ресурсов. Они включают длинные цепочки рассуждений и большие объемы контекста, поэтому каждый пользователь может потреблять гораздо больше вычислительных мощностей, чем при случайном чате. Ограничение доступа для программистов — это способ предотвратить их истощение ресурсов. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Приостановка коснулась потребительских планов с немедленным эффектом, сообщила TechNode. Запросы пользователей в течение двух дней после запуска значительно превысили собственные прогнозы Moonshot, сказали они, приближая вычислительный кластер к полному заполнению.

      Парадокс открытых весов

      Вот в чем загвоздка. Kimi K3 позиционируется как самая большая модель с открытыми весами в мире, с 2,8 триллиона параметров. Открытые веса должны облегчить нагрузку на любого отдельного поставщика, потому что любой может скачать модель и запустить ее самостоятельно.

      Пока что они не могут. Moonshot не выпустит веса K3 до 27 июля. До тех пор единственный способ использовать модель — через собственные приложения и API Moonshot. Весь этот спрос ложится на серверы одной компании.

      И это не модель, которую можно запустить на ноутбуке. Kimi K3 требует многопроцессорной системы с несколькими GPU, по оценкам, порядка восьми чипов H100 или H200 только для ее обслуживания. Она также имеет контекстное окно на один миллион токенов и обрабатывает текст и изображения, что делает каждую сессию еще более требовательной. Это делает хостинг сервиса легким вариантом и узким местом. "Так много за идею, что открытый исходный код снижает вычислительные потребности," заметил The Decoder.

      Выпуск весов 27 июля — это предохранительный клапан. Как только файлы станут публичными, крупные клиенты и облачные провайдеры смогут хостить K3 самостоятельно и пропустить очередь Moonshot. Тем не менее, случайные пользователи все равно будут полагаться на приложения, поэтому напряжение может ослабиться, но не исчезнуть.

      Превращение вирусного момента в деньги

      Эта ситуация не ускользнула от внимания. Kimi K3 была запущена 16 июля и возглавила крупную таблицу лидеров по программированию в течение дня, вызвав тревогу как в Вашингтоне, так и на Уолл-стрит.

      Теперь Moonshot превращает это внимание в платящих клиентов. Годовой повторяющийся доход достиг 300 миллионов долларов в июне, увеличившись с 200 миллионов долларов в апреле. Этот наплыв также совпадает с подготовкой компании к листингу в Гонконге, который может оценить ее более чем в 30 миллиардов долларов. Модель, слишком популярная для продажи, — это необычное предложение для инвесторов, но убедительное.

      Moonshot спешит увеличить мощность. Как только веса станут публичными, крупные клиенты смогут запускать K3 на своем оборудовании и полностью пропустить очередь. Однако борьба за GPU не исчезнет.

      Все испытывают нехватку вычислительных мощностей

      Moonshot не одна в этой ситуации. В ту же неделю Anthropic снизила лимиты использования своей модели Fable 5 для подписчиков, ссылаясь на спрос, который они назвали трудным для управления. Конкуренты тоже начинают проявлять интерес. Alibaba выпустила модель Qwen с открытыми весами по значительной скидке, нацеливаясь прямо на Kimi K3.

      Эта тенденция указывает на что-то большее. Волну способных китайских моделей, которые приходят по ценам, которые подрывают американские лаборатории. Барьер для их использования больше не в способности. Это вопрос о том, есть ли у кого-то чипы, чтобы поддерживать их работу.