Искусственный интеллект модерации Meta неправильно блокирует аккаунты

      Камилла Хансон однажды ночью в марте проснулась от уведомления: Meta отметила ее аккаунты в Facebook и Instagram для удаления. Она и ее муж управляли бизнесом по обучению английскому языку, у которого было почти миллион подписчиков. Meta заявила, что она нарушила правила о мошенничестве и обмане, сообщила газета New York Times.

      Она подала апелляцию. Через неделю Meta отказала в ней. "Вся ваша информация будет навсегда удалена," - гласил ответ. "Вы не можете запросить повторное рассмотрение этого решения." Хансоны ведут бизнес из Португалии, поэтому, как сказал ее муж, это было похоже на то, как если бы кто-то закрыл ваш магазин за ночь.

      Люди вне процесса

      В марте Meta заявила, что передаст больше полномочий ИИ для оценки того, какие аккаунты нарушают ее правила, и для обработки апелляций. Спустя месяцы она уволила тысячи сотрудников, включая людей, которые занимались именно этой работой.

      С тех пор более 60,000 пользователей подписали петицию, в которой просят Meta объяснить свои блокировки и позволить человеку рассматривать апелляции. Форумы Reddit заполнились той же жалобой: автоматизированная система удаляет аккаунт, и никто не отвечает.

      Защита Meta

      Meta отвергает идею о том, что ИИ хуже людей. Представитель Дэниел Робертс заявил, что ее новые инструменты модерации делают на 13% меньше ошибок, чем человеческий персонал, и выявляют на 10% больше нарушений. Пять аккаунтов, на которые указала Times, были заблокированы старыми инструментами Meta. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      "Мы стремимся к тому, чтобы совершать меньше ошибок в обеспечении соблюдения правил и помогать людям защищать свои аккаунты, и ИИ справляется с обеими задачами," - сказал он.

      Тем не менее, у компании были трудности с автоматизацией. В мае хакеры обратили ее ИИ-чат-бота для обслуживания клиентов против 34,000 аккаунтов в Instagram. Сотрудники также восстали против программы, которая отслеживала их нажатия клавиш для обучения ИИ. Она также столкнулась с хаосом в своих инструментах ИИ-рекламы.

      Кафкианский паттерн

      Неправомерные блокировки часто имеют самый худший возможный ярлык. Афения Родни, которая управляла группой JuneteenthNY в течение 17 лет, потеряла свои аккаунты из-за предполагаемого материала о сексуальной эксплуатации детей. Ее контент, по ее словам, ориентирован на семью. На самом деле хакеры захватили ее аккаунты.

      Чтобы восстановить их, она отправила документы, подтвержающие личность, подала жалобу в FTC и написала сотрудникам Meta в LinkedIn. Ничего не сработало, пока не вмешалась Times. Meta восстановила одного влиятельного лица, затем снова заблокировала его через несколько дней за нарушение авторских прав, а затем снова восстановила.

      Европейский аспект

      Ставки выше в Европе, где те же автоматизированные блокировки достигают WhatsApp. Технологический писатель М.Г. Сиглер, заблокированный трижды, описал свою внезапную блокировку в WhatsApp без предупреждения или объяснения. Большая часть континента ведет повседневную жизнь через это приложение, от работы до ухода за детьми.

      Meta настаивает на том, что большие решения остаются за людьми. После того как 26 бывших сотрудников подали в суд, утверждая, что алгоритм выбрал их для увольнений, Meta заявила, что такие решения "принимаются людьми, а не ИИ." Тем не менее, для миллионов пользователей только бот стоит между ними и удалением. Апелляция тоже является ботом. Обратная реакция вряд ли утихнет, пока регуляторы сосредоточат свое внимание на ответственности платформ.