CTO Meta говорит, что данные отслеживания сотрудников попали «туда, куда не должны были»

      Главный технический директор Meta дал наиболее полное объяснение инцидента, который заставил компанию приостановить свой самый спорный проект в области ИИ — схему регистрации нажатий клавиш, которую она называет Инициативой Модельных Возможностей.

      Эндрю Босворт сказал, что исследователь переместил конфиденциальные данные сотрудников в место, где они никогда не должны были находиться, хотя он настаивал на том, что внешнего вмешательства не было.

      В интервью, опубликованном в среду и снятом в конце июня, Босворт описал данные как «достаточно защищенные», к которым могли получить доступ только несколько человек. Проблема, по его словам, возникла изнутри.

      Это был последний поворот в саге, которая началась с отслеживающего программного обеспечения на ноутбуках сотрудников и закончилась приостановкой на уровне всей компании.

      💜 технологий ЕС Последние новости из сферы технологий ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! «Один из исследователей, который работал с этими данными, и здесь не было утечки, но поместил их в место, где они не должны были находиться», — сказал Босворт Томпсону.

      Информация, в преобразованном состоянии, «оказалась в месте, где ей не следовало находиться внутри», добавил он, сказав, что Meta не подозревает о злонамеренных действиях.

      Компания «закрывает всю систему», пока не сможет установить, что произошло, сказал он. Meta приостановила программу в июне после того, как утечка оставила конфиденциальные данные сотрудников доступными для чтения по всей организации, согласно скриншотам, увиденным Business Insider.

      Инициатива Модельных Возможностей была представлена в апреле. Она включала установку программного обеспечения на большинстве сотрудников Meta в США для записи их нажатий клавиш и движений мыши, сырья для обучения моделей ИИ компании. Настойчивость Meta в том, что сотрудники не могут отказаться от участия, вызвала яростную реакцию.

      «Мы тщательно разработали эту программу с учетом мер по защите конфиденциальности, и хотя у нас нет никаких указаний на то, что какие-либо данные были неправомерно доступны сотрудникам Meta, мы приостанавливаем ее, пока проводим расследование», — сказал представитель Meta Business Insider в июне.

      Компания отказалась комментировать ситуацию дальше.

      Инициатива пришлась на тяжелый момент для сотрудников. Сам Босворт сказал на внутренней встрече, что моральный дух сотрудников «вероятно, один из самых низких за всю 20-летнюю историю Meta», поскольку увольнения и резкий переход к ИИ встревожили рабочую силу.

      Сопротивление отслеживанию было немедленным и организованным. Более 1600 сотрудников подписали петицию против программного обеспечения, и один офис, по сообщениям, прозвал его «Фабрикой Извлечения Данных Сотрудников».

      Юристы по вопросам конфиденциальности отдельно предупреждали, что инструмент рискует собирать данные европейских сотрудников способами, которые могут противоречить GDPR.

      В интервью Босворт предложил вторую причину, по которой проект потерпел неудачу, основанную на науке, а не на политике. Схема собирала слишком много одного и того же, сказал он, когда на самом деле модели ИИ нуждаются в разнообразии.

      «Разнообразие гораздо важнее, чем большой объем одного и того же, который сводится к одному примеру», — сказал он Томпсону.

      Это осознание, по его словам, побудило Meta расширить возможность отказа, которую она изначально удерживала.

      «Так что именно поэтому, через пару недель после того, как мы изначально запустили это, мы добавили расширенные возможности отказа для людей, которые не хотели этого делать», — сказал Босворт. «Приостановка, бесконечная приостановка.

      Когда бы вы ни захотели остановить это, просто нажмите паузу». Это означает смягчение изначальной политики без возможности отказа, которую Meta ранее пыталась смягчить 30-минутной отсрочкой.

      Неясно, вернется ли программа в своем первоначальном виде. Босворт представил паузу как предосторожность, а не как отступление, но этот эпизод предоставил критикам внутри и вне компании учебный случай о том, как наблюдение, созданное для питания ИИ, может обернуться против рабочей силы, которую оно должно было измерять.

      На данный момент регистрация нажатий клавиш находится в спящем режиме, расследование продолжается, а исследователь, стоящий в центре инцидента, остается неназванным. Что Meta сделает с данными, которые она уже собрала, — это более сложный вопрос, на который CTO оставил без ответа.