Apple описывает модели ИИ, лежащие в основе нового Siri

      Заголовок с конференции разработчиков Apple — это возрожденный Siri. Более интересная история скрыта под ним: модели ИИ, которые Apple создала для работы с этим, одна из которых слишком велика, чтобы поместиться в памяти iPhone, но все же работает на устройстве.

      В техническом посте, опубликованном одновременно с WWDC, Apple подробно рассказала о третьем поколении своих моделей Apple Foundation, семье из пяти моделей, которые она описывает как «созданные на заказ в сотрудничестве с Google».

      Две работают на устройстве: AFM 3 Core, модель с 3 миллиардами параметров для повседневных задач, и AFM 3 Core Advanced, самая мощная модель на устройстве. Три другие работают в облаке: AFM 3 Cloud, серверная рабочая лошадка; ADM 3 Cloud, модель изображения за Image Playground и Genmoji; и AFM 3 Cloud Pro, тяжеловес, созданный для агентного использования инструментов и сложного рассуждения.

      Умная инженерия заключается в Core Advanced.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Это модель с 20 миллиардами параметров, нативно мультимодальная, размер которой обычно живет в дата-центре, а не в телефоне. Трюк Apple заключается в том, чтобы хранить всю модель во флеш-памяти, а не в гораздо меньшем объеме рабочей памяти. Используя технику, которую ее исследователи называют Instruction-Following Pruning, модель принимает решения о маршрутизации один раз за запрос, загружая только небольшой набор «экспертных» параметров в память, от 1 до 4 миллиардов за раз, при этом поддерживая ядро общих экспертов всегда включенным.

      Это позволяет Apple масштабировать модель «значительно превышая традиционные ограничения DRAM», как они говорят, и обеспечивает более выразительные голоса и более четкую диктовку в программном обеспечении этого года.

      Облачные модели полагаются на частное облачное вычисление Apple, которое, по словам компании, предотвращает хранение или обмен пользовательскими данными с кем-либо, включая Apple. Для модели Cloud Pro высшего уровня Apple работала с Google и Nvidia, чтобы расширить эту архитектуру конфиденциальности на графические процессоры Nvidia в Google Cloud.

      Это партнерство с Google — деталь, которую стоит прояснить. Освещение ключевой речи различно предполагало, что модели Apple «дистиллированы из Gemini» или вообще не содержат технологий Google.

      Технический пост находится между этими утверждениями: семья AFM — это собственные модели Apple, «созданные на заказ в сотрудничестве с Google» и обученные на облачных TPU Google, в то время как тяжелое рассуждение за новым Siri, как сообщается, опирается на большую пользовательскую модель Google. Короче говоря, модели принадлежат Apple, а мускулы и большая часть инфраструктуры — Google.

      Для разработчиков более значительное изменение — это фреймворк Foundation Models.

      Приложения могут напрямую использовать модель на устройстве, и в этом году Apple добавила уровень абстракции модели, который позволяет разработчикам заменять сторонние модели, такие как Claude от Anthropic или Gemini от Google, без переписывания своего кода, в то время как iOS 27 позволит пользователям установить конкурирующего помощника в качестве стандартного. Это необычно открытая позиция для Apple, даже если Apple Intelligence сама по себе все еще не появится в ЕС в том же временном графике.

      Обычное предостережение касается цифр. Пост Apple усыпан лестными сравнениями, AFM 3 Cloud предпочтительнее модели прошлого года по 64,7% запросов, выразительные голоса набрали 4,15 по 5-балльной шкале мнений против 3,87 для старой системы, но это собственные человеческие оценки Apple, а не независимые бенчмарки, и модели все еще находятся в бета-версии.

      Полный технический отчет обещан позже этим летом.

      Тем не менее, после двух лет насмешек над помощником, который не работал, это самый ясный аргумент Apple о том, что инфраструктура наконец-то реальна: маленькая, частная модель для повседневного использования, более крупные модели, упакованные в собственное облако для сложных задач, и мускулы Google на границе, где Apple все еще не может конкурировать в одиночку.

      Будет ли это работать за пределами собственных графиков Apple — это следующий тест.