Внутри восстания в подразделении прикладного ИИ Meta

      Для того чтобы сотрудник захватил трансляцию компании и потребовал от ведущих передать сообщение старшему руководителю: что он, мягко говоря, мусор, требуется особый вид дисфункции. Это произошло в Meta в этом месяце. Согласно записи, услышанной WIRED, вспышка на звонке, открытом для тысяч сотрудников, на самом деле не касалась одного руководителя. Это был самый громкий сигнал о том, как сильно все испортилось внутри Applied AI, подразделения из примерно 6500 человек, которое Марк Цукерберг создал в марте, чтобы поддержать свою самую дорогую ставку на искусственный интеллект. «Это буквально гулаг», — сказал один из сотрудников WIRED. «Вдруг у вас нет никакой цели в жизни».

      Эта ставка стоит 14,3 миллиарда долларов, и за ней стоит машина. Эта ставка имеет имя: Александр Ванг. Прошлым летом Meta заплатила 14,3 миллиарда долларов за 49-процентную долю в стартапе Ванга по маркировке данных, Scale AI, и назначила молодого основателя своим главным AI-офицером, возглавив новые Meta Superintelligence Labs. Applied AI — это машина, предназначенная для того, чтобы превратить его модели из многообещающих в конкурентоспособные с Claude и ChatGPT.

      Проблема в том, что эта машина на самом деле делает. Applied AI возглавляет Махер Саба, 12-летний ветеран Meta и бывший вице-президент Reality Labs, подчиняющийся главному техническому директору Эндрю Босворту. Как задокументировал Гергей Орож в подробном отчете на этой неделе, от 30 до 50 процентов инженеров в командах по основным продуктам, инфраструктуре и безопасности были переведены в внутреннюю группу, сосредоточенную на маркировке данных и обучении с подкреплением на основе человеческой обратной связи, той самой рутинной работе, которая улучшает модели ИИ.

      Сейчас в ней находятся около 6500 человек; по его оценкам, один из каждых пяти или шести инженеров Meta может заниматься маркировкой данных на полную ставку. На протяжении большей части истории Meta инженеры выбирали свои команды. Теперь, согласно внутренней записке от руководителя подразделения, увиденной Reuters, переводы не были добровольными. Люди, переведенные против своей воли, начали называть себя призывниками.

      Ничто из этого не произошло в вакууме. В мае Meta сократила около 8000 рабочих мест, что составляет десятую часть ее рабочей силы, всего через несколько дней после перевода тысяч других на команды ИИ. Примерно в то же время сотрудники протестовали против системы, которая отслеживает их нажатия клавиш и клики мыши для сбора данных для обучения ИИ, без возможности отказаться; более 1600 подписали петицию, и один офис прозвал это «Фабрикой извлечения данных сотрудников».

      После backlash Reuters сообщила 2 июня, что Meta начала позволять сотрудникам приостанавливать отслеживание на срок до 30 минут за раз и запрашивать исключения. Затем были стимулы. Инженеры узнали, что использование токенов будет учитываться в оценках производительности, поэтому они начали сжигать токены ради этого, играя в статусную игру, которую индустрия назвала токенмаксингом. По данным The Information, сотрудники Meta использовали 60,2 триллиона токенов ИИ за 30 дней, что по ценам на рынке обошлось бы в сотни миллионов долларов.

      Парадоксальный результат, утверждает Орож: сбой, вызванный небрежным кодом, сгенерированным ИИ, может не привести к увольнению, но написание кода вручную может. Эта культура имеет свою цену. 30 мая Meta пережила то, что Орож называет самым позорным сбоем в своей истории: волну захватов аккаунтов в Instagram, включая высокопрофильные аккаунты, после того как ее поддержка ИИ, как сообщается, могла быть обманута для отправки кода сброса пароля на электронную почту злоумышленника.

      Команды безопасности Meta, сокращенные из-за переводов, были застигнуты врасплох; ее главный офицер по информационной безопасности ушел через несколько дней. Meta также пришлось заморозить некоторые работы с данными ИИ после того, как утечка поставила под угрозу секреты обучения. Даже руководство перестало притворяться. Технический директор Эндрю Босворт сказал сотрудникам, что реорганизация ИИ была «ужасной» и что моральный дух был на уровне худшего, что он видел за 20 лет, сопоставимом с Cambridge Analytica.

      Главный продуктовый директор Крис Кокс описал «безумие этой компании» и сравнил этот период с «бегом марафона посреди града», прежде чем призвать к реальной оценке самой технологии: ИИ, сказал он, «не является ни богом, ни дьяволом». Теперь Цукерберг пытается стабилизировать ситуацию. В пятничной записке он признал, что изменения «вызвали беспокойство» и что «мы сделали ошибки и, почти наверняка, сделаем еще». Он пообещал больше не проводить массовые увольнения до конца 2026 года, решил ограничить соотношение менеджеров к подчиненным, которое возросло до 50 к одному в таких командах, как Applied AI, увеличил бюджеты на командные мероприятия и предложил провести хакатон по ИИ на уровне компании, идею, которую сотрудники открыто ненавидели.

      Будет ли этого достаточно, чтобы остановить исход, — другой вопрос: Орож сообщает о росте числа инженеров Meta, подписывающихся на услуги подготовки к собеседованиям с мая. Самая странная часть заключается в том, что бизнес процветает. Meta опубликовала выручку в первом квартале в размере 56,3 миллиарда долларов, увеличившись на 33 процента, с удвоением своих инструментов для создания рекламы на основе ИИ до восьми миллионов рекламодателей; по текущим тенденциям она на пути к тому, чтобы обойти Google как крупнейший рекламный бизнес в мире. Ее последняя внутренняя модель была встречена с сдержанным откликом, однако Цукерберг решил, что создание ИИ для кодирования важнее, чем удержание своих лучших инженеров или надежная работа Instagram и Facebook.

      Существует мнение, что рынок и история морального духа упускают суть. Как утверждает автор Forbes Джон Маркман, 14,3 миллиарда долларов не купили модель вообще; они купили почти половину доли в Scale AI, поставщике высококачественных данных для обучения и средах обучения с подкреплением, за которыми сейчас гонятся все передовые лаборатории. Meta отдала Llama бесплатно именно потому, что Цукерберг сделал ставку на то, что модели станут товарными, и что долговая ценность будет заключаться в данных и распределении, та же логика, которая уже превращает поведенческие данные Meta в лидирующие рекламные доходы в отрасли. С этой точки зрения, оценка Meta по тому, превышает ли ее новая модель эталон, — это оценка неправильного экзамена.

      Это действительно противовес, даже если это ничего не делает для смягчения человеческой цены внутри инженерной организации или объяснения, почему компания, публикующая рекордные прибыли, решила сократить команды, которые их производят. Акции Meta упали примерно на 18 процентов за последний год, что является самым слабым показателем среди мегакэп, поскольку инвесторы взвешивают этот самый вопрос. Это шаблон, который другие видят, распространяющимся. Митчелл Хашимото, основатель HashiCorp, предупреждает, что целые компании работают под неким «психозом ИИ», быстро отправляя продукты, предполагая, что агенты уберут беспорядок, как инженеры Meta снизили свои стандарты качества и затем наблюдали, как высокопрофильные аккаунты были взломаны.

      История Meta — это самая крайняя версия на сегодняшний день: прибыльный гигант, который, по словам одного из его собственных руководителей продуктов, превратил свою ценную инженерную культуру в побочный ущерб. Талант, который она теряет, отмечает Орож, станет чьей-то другой выгодой.