Meta убирает Muse Image AI после backlash по поводу конфиденциальности в Голливуде

      TL;DRMeta убрала свою функцию Muse Image AI из Instagram всего через три дня после запуска после негативной реакции от SAG-AFTRA, агентства талантов CAA и актеров, включая Ханну Эйнбиндер. Этот инструмент, первый от Meta Superintelligence Labs, позволял любому генерировать изображения из публичных аккаунтов Instagram без необходимости согласия.

      Meta убрала свою функцию Muse Image AI из Instagram и приложения Meta AI всего через три дня после запуска, заявив, что инструмент «не соответствовал требованиям» по защите конфиденциальности пользователей. Модель, первый генератор изображений, появившийся в Meta Superintelligence Labs под руководством главного AI-офицера Александра Ванга, была запущена во вторник с конструктивным недостатком, который оказался фатальным: публичные аккаунты Instagram были включены по умолчанию.

      «Нашей целью было предоставить полезный творческий инструмент и дать людям контроль над тем, может ли их публичный контент быть использован таким образом», — говорится в заявлении Meta в пятницу. «Мы услышали отзывы о том, что эта функция не соответствовала требованиям, поэтому она больше недоступна».

      Что делал Muse Image

      Функция, встроенная в чат-бота Meta AI в Instagram и WhatsApp, позволяла пользователям отмечать любой публичный профиль Instagram в запросе и генерировать AI-изображения, используя публично размещенные фотографии этого человека в качестве ссылки. Частные аккаунты и пользователи младше 18 лет автоматически исключались, но все остальные должны были активно отказаться от этого в настройках.

      Эта архитектура сразу же вызвала сравнение с более широкой моделью Meta, которая рассматривает данные пользователей как опцию отказа, а не согласия. Для актеров, музыкантов и создателей, чья профессиональная ценность связана с их образом и likeness, это было коммерчески угрожающим.

      Ответ Голливуда

      SAG-AFTRA, профсоюз, представляющий более 160 000 работников кино и телевидения, призвал членов и всех пользователей Instagram отказаться от этого в четверг. «Все, кроме четкого и заметного согласия на такие виды использования изображений пользователей Instagram, неприемлемо и является полной ошибкой в оценке общественного мнения относительно очевидных опасностей и вреда, присущих такому использованию», — говорится в заявлении.

      Агентство талантов CAA выпустило аналогичное заявление, заявив, что имя, изображение, likeness, голос или творческая работа никого не должны использоваться третьими сторонами, включая AI-модели, без четкого, документированного согласия. В его списке клиентов такие звезды, как Том Круз, Шарлиз Терон и Зои Салдана.

      Лауреат премии «Эмми» Ханна Эйнбиндер, известная по сериалу HBO «Хаки», опубликовала в Instagram, что функция была включена автоматически, и призвала своих подписчиков отключить ее. Марк Цукерберг публично ответил, заявив, что в инструменте уже были предусмотрены меры безопасности, прежде чем Meta изменила свое решение менее чем через 24 часа.

      Шаблон, от которого Meta пытается избавиться

      Этот эпизод соответствует повторяющейся динамике для Meta: запуск AI-функций, которые рассматривают данные пользователей как свободно доступные по умолчанию, а затем отступление, когда приходит негативная реакция. ЕС признал рекламную модель Meta «платить или согласиться» нарушающей Закон о цифровых рынках; генеральные прокуроры штатов требуют до 1,4 триллиона долларов в качестве компенсации за безопасность молодежи на суде, назначенном на август.

      SAG-AFTRA приветствовала удаление. «С учетом известных всем опасностей неконсентуальных цифровых реплик функция, которая поощряла такое поведение, является неразумной», — сказал представитель, добавив, что прекращение ее работы «это ответственное решение».

      Muse Image была частью более широкого запуска, который также включал Muse Video, отдельный инструмент, который Meta Superintelligence Labs разработала для генерации видео. Meta заявила, что эта функция остается доступной.