Meta размещала рекламу, содержащую сгенерированный ИИ контент сексуального насилия над детьми, продолжая многолетние провалы в обеспечении безопасности детей.

      Рекламная платформа Meta сделала то, что она неоднократно обещала больше никогда не допускать. Согласно новому расследованию Wired, Meta разместила десятки платных объявлений за последние девять месяцев, содержащих откровенные изображения сексуального насилия над детьми, сгенерированные ИИ, некоторые из которых оставались активными даже после того, как компания была прямо с ними столкнута.

      Если это кажется вам историей, которую вы уже читали, то это потому, что вы, вероятно, так и есть. Всего за несколько недель до этого последнего отчета отдельное расследование BBC обнаружило, что Instagram размещал платные объявления, продвигающие материалы сексуального насилия над детьми в Индии, направляя пользователей на каналы Telegram, продающие незаконный контент.

      Meta

      Рекламные объявления CSAM, сгенерированные ИИ, которые Meta одобрила и на которых заработала

      Исследователи проекта Tech Transparency Project обнаружили объявления в публичной библиотеке объявлений Meta, инструменте, который компания создала специально для прозрачности рекламы. Объявления размещались с ноября 2025 года по начало августа 2026 года, охватывая людей в США, Великобритании и более чем дюжине европейских стран, причем как минимум одно объявление достигло более 2500 аккаунтов только в Европе.

      Директор TTP Кэти Пол сказала Wired, что изображения не пытались скрыть то, что они продвигали, подчеркивая, что это не были посты, просочившиеся от внешних пользователей, а объявления, которые сама Meta проверила и одобрила, прежде чем получить доход от рекламы.

      Это не был контент пользователей. Это была реклама, которую приняла Meta.

      Несколько объявлений напрямую ссылались на приложения для обнажения, включая одно под названием MaskAI, которое Apple удалил из своего App Store после того, как Wired на него указал. В особенно тревожной детали исследователи изначально нашли около двух десятков нарушающих объявлений, но обнаружили еще около 30 за несколько часов до публикации, несколько из которых стали активными только после того, как Wired уже спросил Meta о проблеме.

      Пол также отметила, что некоторые объявления соответствовали контенту, который Meta ранее удаляла за то же самое нарушение, что вызывает реальные вопросы о том, могут ли системы компании на самом деле распознавать повторных нарушителей. Многие из аккаунтов, размещающих эти объявления, имели мало или вообще не имели подписчиков, а где детали рекламодателей были видны, несколько из них были связаны с китайскими фирмами, включая одну, идентифицированную как бывшего реселлера рекламы Meta.

      Официальный ответ Meta опирался на знакомый язык, называя контент ужасным, отмечая, что большинство объявлений имели ограниченный охват, и указывая на новую систему обнаружения ИИ наряду с утверждением о том, что в прошлом году было удалено 36 миллионов единиц контента сексуальной эксплуатации детей.

      Meta Логотип Unsplash

      Это не первый скандал Meta, связанный с безопасностью детей

      Отношения Meta с неудачами в области безопасности детей уходят гораздо дальше, чем на этой неделе. Еще в 2017 году Facebook уже обрабатывал более 50 000 случаев мести и сообщений о сексуальном насилии каждый месяц, что побудило компанию нанять тысячи дополнительных модераторов контента, чтобы просто справиться с потоком.

      К 2019 году внутренние сообщения, позже раскрытые в суде, показали, что Meta изменила способ, которым Messenger делился информацией с правоохранительными органами, что затронуло примерно 7,5 миллиона сообщений о сексуальном насилии над детьми.

      В 2021 году информатор Франсес Хауген утекла внутренние исследования, показывающие, что собственные исследования Meta обнаружили, что Instagram наносит вред психическому здоровью подростков. В том же году инженер Артуро Бехар лично написал электронное письмо Цукербергу о том, как его собственная дочь подвергалась сексуальным домогательствам в Instagram.

      Meta

      В 2023 году совместное расследование Wall Street Journal, Стэнфорда и UMass Amherst обнаружило, что алгоритмы Instagram активно соединяли и продвигали обширную сеть педофильских аккаунтов. Позже Бехар свидетельствовал в Сенате, что функции безопасности Meta не более чем плацебо по названию. Сенаторы назвали это обвинительным и поклялись действовать, но никаких обязательных регуляций не последовало, и практики Meta продолжались в основном без изменений.

      Десятилетие одних и тех же сломанных обещаний

      Предупреждения не оставались ограниченными только слушаниями в Конгрессе. Генеральный прокурор Нью-Мексико также подал в суд на Meta после того, как под прикрытием было обнаружено, что фальшивый профиль 13-летней девочки сразу же был затоплен сексуальными предложениями от взрослых. Это дело завершилось в марте 2026 года, когда присяжные обязали Meta выплатить 375 миллионов долларов за угрозу детям и введение общественности в заблуждение.

      Свидетельства во время этого процесса, как сообщается, показали, что переход Meta к модерации на основе ИИ затопил систему низкокачественными отчетами, что затрудняло реальное расследование правоохранительными органами. Вердикт в 375 миллионов долларов должен служить сигналом для пробуждения для любой компании. Эта вся категория насилия стала постоянной частью онлайн-пространства, потому что соблюдение правил платформы оставалось слишком робким слишком долго.

      Meta

      Неужели Meta не смогла это исправить или выбрала не делать этого?

      В какой-то момент называть это повторяющейся неудачей дает Meta слишком много кредита. Каждое из этих инцидентов следует одному и тому же сценарию. Каждый раз независимые исследователи или журналисты находят проблемный контент, и Meta удаляет его только после того, как ее публично с ним столкнули. Позже компания указывает на большую статистику удаления как доказательство того, что она серьезно относится к проблеме. Затем цикл сбрасывается.

      После почти десятилетия повторений, и с учетом того, что собственные данные Meta, как сообщается, показывают, что она может идентифицировать дублирующие нарушения, не действуя по ним, вывод становится трудно избежать. Похоже, что Meta просто подсчитала, что стоимость быть пойманным ниже, чем стоимость исправления основной системы.

      В будущем пользователям не нужно еще одно тщательно сформулированное заявление от Meta. Им нужна система, которая изначально ловит вредный контент. Пока этого не существует, каждое обещание «отнестись к этому серьезно» — это просто еще одно временное решение, ожидающее следующего расследования, чтобы снова доказать его неправильность.