CTO Meta говорит, что данные отслеживания сотрудников оказались «там, где не должны были быть»

      Главный технический директор Meta дал наиболее полное объяснение инцидента, который заставил компанию приостановить свой самый спорный проект в области ИИ — схему регистрации нажатий клавиш, которую она называет Инициативой Модельных Возможностей.

      Эндрю Босворт сообщил, что исследователь переместил конфиденциальные данные сотрудников в место, где они никогда не должны были находиться, хотя он настаивал на том, что внешнего вмешательства не было.

      В интервью, опубликованном в среду и снятом в конце июня, Босворт описал данные как «достаточно защищенные», к которым могли получить доступ лишь несколько человек. Проблема, по его словам, возникла изнутри.

      Это был последний поворот в саге, которая началась с отслеживающего программного обеспечения на ноутбуках сотрудников и закончилась приостановкой на уровне всей компании.

      💜 технологий ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! «Один из исследователей, который работал с этими данными, и здесь не было утечки, но поместил их в место, где они не должны были находиться», — сказал Босворт Томпсону.

      Информация, в преобразованном состоянии, «оказалась в месте, где ей не следовало находиться внутри компании», добавил он, сказав, что Meta не подозревает в злонамеренных действиях.

      Компания «закрывала всю систему», пока не сможет установить, что произошло, сказал он. Meta приостановила программу в июне после того, как утечка оставила конфиденциальные данные сотрудников доступными для чтения по всей организации, согласно скриншотам, увиденным Business Insider.

      Инициатива Модельных Возможностей была представлена в апреле. Она включала установку программного обеспечения на большинстве сотрудников Meta в США для записи их нажатий клавиш и движений мыши, сырья для обучения моделей ИИ компании. Настойчивость Meta в том, что сотрудники не могли отказаться от участия, вызвала резкую реакцию.

      «Мы тщательно разработали эту программу с учетом мер по защите конфиденциальности, и хотя у нас нет никаких указаний на то, что какие-либо данные были неправомерно доступны сотрудникам Meta, мы приостанавливаем ее, пока проводим расследование», — сказал представитель Meta Business Insider в июне.

      Компания отказалась комментировать ситуацию далее.

      Инициатива пришлась на тяжелый момент для сотрудников. Сам Босворт сказал на внутреннем собрании, что моральный дух сотрудников «вероятно, один из самых низких за всю 20-летнюю историю Meta», поскольку увольнения и резкий переход к ИИ встревожили рабочую силу.

      Сопротивление отслеживанию было немедленным и организованным. Более 1600 сотрудников подписали петицию против программного обеспечения, а один офис, как сообщается, прозвал его «Фабрикой Извлечения Данных Сотрудников».

      Юристы по вопросам конфиденциальности отдельно предупреждали, что инструмент рискует собирать данные сотрудников из Европы способами, которые могут противоречить GDPR.

      В интервью Босворт предложил вторую причину, по которой проект потерпел неудачу, основанную на науке, а не на политике. Схема собирала слишком много однотипных данных, сказал он, когда на самом деле модели ИИ нуждаются в разнообразии.

      «Разнообразие гораздо важнее, чем большой объем одного и того же, который сводится к одному примеру», — сказал он Томпсону.

      Это осознание, по его словам, побудило Meta расширить возможность отказа, которую она изначально удерживала.

      «Вот почему, через пару недель после того, как мы изначально запустили это, мы добавили расширенные возможности отказа для людей, которые не хотели этого делать», — сказал Босворт. «Приостановка, бесконечная приостановка.

      Когда бы вы ни захотели это остановить, просто нажмите паузу». Это означает смягчение изначальной политики без возможности отказа, которую Meta ранее пыталась смягчить 30-минутной отсрочкой.

      Неясно, вернется ли программа в своем первоначальном виде. Босворт охарактеризовал паузу как предосторожность, а не как отступление, но этот эпизод стал для критиков внутри и вне компании учебным примером того, как наблюдение, созданное для обучения ИИ, может обернуться против рабочей силы, которую оно должно было измерять.

      На данный момент регистрация нажатий клавиш находится в спящем режиме, расследование продолжается, а исследователь, стоящий в центре инцидента, остается неназванным. Что Meta сделает с данными, которые она уже собрала, — это более сложный вопрос, на который CTO оставил без ответа.