Meta убрала код распознавания лиц из приложения для своих смарт-очков на следующий день после того, как WIRED его обнаружил.

      TL;DRMeta убрала код распознавания лиц NameTag из своего AI-приложения за один день до того, как WIRED раскрыл это на 50 миллионах телефонов. Meta утверждает, что решение не было принято.

      Meta удалил почти все следы не выпущенной системы распознавания лиц из своего приложения для смарт-очков в пятницу, за день до того, как WIRED сообщил, что программное обеспечение было тихо встроено в приложение, установленное на более чем 50 миллионах телефонов. Функция, которую Meta внутренне называла NameTag, была разработана для преобразования лиц, захваченных смарт-очками Ray-Ban компании, в уникальные биометрические подписи и их сравнения с базой данных, хранящейся на устройстве пользователя. WIRED также обнаружил, что лица, которые система не смогла распознать, были обрезаны, индексированы и хранились локально для будущей обработки.

      Энди Стоун, вице-президент Meta по коммуникациям, сказал WIRED в понедельник, что функция является «чисто исследовательской», добавив, что окончательное решение о том, что с ней делать, не было принято. Это определение не совсем согласуется с доказательствами, которые задокументировал WIRED. Версия Meta AI, опубликованная в день отчета WIRED в четверг, содержала несколько библиотек кода, явно названных для распознавания лиц, процесс запуска распознавания NameTag и уведомление «Лицо распознано», которое приложение показало бы, если бы кто-то был идентифицирован.

      В пятничном релизе все это было удалено, вместе с папкой, где приложение хранило бы обрезанные изображения и биометрические подписи нераспознанных лиц. Meta не ответила на вопросы WIRED о том, почему код был удален или были ли изменения запланированы до публикации статьи. В последней версии остались несколько фрагментов, включая метку внутреннего отладочного меню и неактивную ссылку, предназначенную для открытия профиля распознанного человека, указывая на части системы, которых больше нет.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного AI-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!Разрыв между публичными заявлениями Meta и кодом, найденным WIRED, является центральным напряжением. Перед отчетом в четверг Стоун отверг выводы, написав, что компания не может ответить на вопросы о том, как будет работать система, потому что «функция не существует». Эндрю Босворт, технический директор Meta, назвал отчет «крайне вводящим в заблуждение» и «абсолютно нечестным». Тем не менее, код был достаточно функциональным, чтобы включать три модели AI: одну для обнаружения лиц, другую для их обрезки и третью для кодирования их в виде биометрических данных, все встроенные в приложение для продукта, который уже находится в центре нарастающего кризиса конфиденциальности.

      Meta отказалась ответить на десять вопросов, которые WIRED задал перед публикацией, включая вопрос о том, создала ли она уже базу данных профилей лиц, используемых NameTag, как долго приложение хранит фотографии и биометрические данные нераспознанных людей и будет ли эта информация когда-либо отправлена обратно на серверы Meta. Компания также не ответила на вопросы о том, разрабатывает ли она NameTag для слепых или слабовидящих пользователей, или на критику со стороны защитников конфиденциальности, которые предупреждали, что система может позволить преследователям и злоумышленникам идентифицировать незнакомцев на публике.

      NameTag впервые появился в феврале, когда The New York Times, ссылаясь на внутренние документы Meta, сообщила, что компания разрабатывает распознавание лиц для своих смарт-очков и рассматривает возможность запуска уже в этом году. Один внутренний мемо reportedly описывал выпуск функции в «динамичной политической обстановке», когда защитники конфиденциальности и гражданских свобод будут отвлечены другими проблемами. WIRED впоследствии обнаружил, что большая часть механизмов NameTag была встроена в приложение Meta AI уже в январе, за месяцы до любого публичного признания, добавляя еще один слой к паттерну компании, которая сначала выпускает, а затем раскрывает информацию, когда речь идет о ее смарт-очках.

      Кейд Крокфорд, директор программы технологий для свободы Американского союза гражданских свобод Массачусетса, сказал, что удаление не отменяет первоначальное решение о выпуске кода и указал на это как на доказательство того, что конфиденциальность потребителей нуждается в более сильной правовой защите, чем та, которую Конгресс был готов предоставить. Палата представителей Массачусетса на прошлой неделе единогласно приняла законопроект о конфиденциальности потребителей, который, если будет принят в том виде, в каком он написан, наложит строгие меры по обеспечению, включая частное право на иск, позволяющее пострадавшим пользователям подавать в суд. «Законодатели штата должны выполнять свою работу и защищать конфиденциальность потребителей», - сказал Крокфорд.

      «Лукавые тактики Meta по внедрению кода распознавания лиц в свои смарт-очки показывают, почему законопроекты о конфиденциальности данных нуждаются в строгом обеспечении», - добавил Крокфорд. «Компании, такие как Meta, ставят свои финансовые интересы на первое место, поэтому законодатели должны говорить на единственном языке, который понимает их руководство». Является ли удаление кода, вызванное расследовательской журналистикой, победой или просто тактическим отступлением, зависит от того, что сделает Meta дальше, и от того, приведет ли нарастающее регуляторное давление с обеих сторон Атлантики к осуществимым последствиям, прежде чем функция тихо вернется под другим именем.