Метки ИИ становятся обязательными на контенте, выглядящем аутентично, согласно правилам ЕС

      Компании, которые создают или используют ИИ, вскоре должны будут маркировать контент, который выглядит аутентично, но не является таковым, поскольку знаковый закон ЕС о ИИ переходит от принципов к принудительному исполнению. С 2 августа поставщики и развертыватели по всему блоку сталкиваются с обязательными правилами прозрачности, касающимися дипфейков, синтетических медиа и машинно-сгенерированного текста, что является изменением, к которому платформы готовились с тех пор, как YouTube начал автоматически маркировать видео с ИИ. Основная идея проста. Если контент может быть принят за настоящий, у людей есть право знать, что его создала машина, и теперь бремя лежит на компаниях, стоящих за этим. Правила разделяют работу на две части. Поставщики, компании, которые создают генеративные системы, должны встраивать машинно-читаемые метки, чтобы изображения, аудио, видео и текст могли быть обнаружены как сгенерированные ИИ или манипулированные. Развертыватели несут видимую часть. Любой, кто использует ИИ для создания дипфейка или для публикации текста, написанного машиной по вопросам общественного интереса, должен четко и своевременно раскрывать это происхождение аудитории. Намерение не освобождает от ответственности. Обязанность маркировать реалистичный дипфейк применяется независимо от того, хотел ли создатель обмануть, закрывая лазейку, которую мог бы открыть аргумент "мы только шутим". Чат-боты также подпадают под действие правил. Когда человек начинает взаимодействовать с ИИ-системой, ему должно быть сказано в момент контакта, а не в мелком шрифте на странице условий обслуживания, которую никто не читает. Есть реальные исключения. Явно нереалистичный или фантастический контент не подпадает под правила, а текст, сгенерированный ИИ, избегает маркировки, если человек с подлинной редакторской ответственностью его значимо проверил. Творческая работа получает более легкий подход. Художественный и сатирический контент все еще должен содержать раскрытие, но только таким образом, чтобы не испортить впечатление от работы, что является жестом в сторону кинематографистов и художников. Штрафы придают правилам силу. Нарушения могут повлечь штрафы до 15 миллионов евро или 3% от годового мирового оборота компании, в зависимости от того, что больше, что достаточно, чтобы сосредоточить умы как в Силиконовой долине, так и в Брюсселе. Сроки не совсем фиксированы. Обязанности официально вступают в силу с 2 августа, но отдельный пакет упрощений предлагает перенести срок машинной маркировки на декабрь, что является частью более широких усилий, которые сократили некоторые части Закона о ИИ. Отрасль пытается продвигаться на границах. Рекламодатели, среди прочих, утверждали, что рекламные объявления, сгенерированные ИИ, должны быть освобождены от правил прозрачности, что является лоббистской борьбой, которая шла параллельно с внедрением закона. Комиссия пыталась внести ясность. Она опубликовала проект руководящих принципов в мае и завершает кодекс практики о том, как маркировать и обозначать контент ИИ, который компании могут подписать, чтобы показать, что они соответствуют требованиям. Охват больше, чем Европа. Поскольку глобальные платформы редко создают отдельные системы для одного рынка, режим маркировки ЕС, вероятно, будет формировать то, как контент ИИ маркируется по всему миру, так же как и его закон о конфиденциальности ранее. Исполнение будет сложной частью. Водяные знаки могут быть удалены, метаданные могут быть потеряны, а текст, написанный машиной, notoriously трудно обнаружить, поэтому правила будут столь же сильны, как и инструменты, которые их проверяют. Дипфейки являются самым острым тестом. ЕС отдельно принял решение запретить неконсенсуальные интимные дипфейки, и режим маркировки предназначен для того, чтобы поймать более широкий круг синтетических медиа, прежде чем это полностью подорвет доверие. Ставки выходят за рамки соблюдения. Европа ставит на то, что обязательная прозрачность может сохранить общее представление о том, что реально в интернете, в момент, когда генеративные инструменты делают убедительные фальшивки тривиальными для производства. Будет ли это работать — открытый вопрос. Этот закон является самой амбициозной попыткой маркировать синтетический мир, но его успех зависит от того, сможет ли обнаружение догнать генерацию, гонка, в которой фальсификаторы пока что побеждают.