Метки ИИ становятся обязательными на контенте, выглядящем аутентично, в соответствии с правилами ЕС

      Компании, которые создают или используют ИИ, вскоре будут обязаны маркировать контент, который выглядит аутентично, но не является таковым, поскольку знаковый закон ЕС о ИИ переходит от принципов к принудительному исполнению. С 2 августа поставщики и развертыватели по всему блоку столкнутся с обязательными правилами прозрачности, касающимися дипфейков, синтетических медиа и текста, сгенерированного машиной, что является изменением, к которому платформы готовились с тех пор, как YouTube начал автоматически маркировать видео с ИИ. Основная идея проста. Если контент может быть принят за настоящий, люди имеют право знать, что его создала машина, и теперь бремя ложится на компании, стоящие за этим. Правила разделяют работу на две части. Поставщики, компании, которые создают генеративные системы, должны встраивать машинно-читаемые маркировки, чтобы изображения, аудио, видео и текст могли быть обнаружены как сгенерированные ИИ или манипулированные. Развертыватели несут видимую часть. Любой, кто использует ИИ для создания дипфейка или для публикации текста, написанного машиной, по вопросам общественного интереса, должен четко и своевременно раскрывать это происхождение аудитории. Намерение не освобождает от ответственности. Обязанность маркировать реалистичный дипфейк применяется независимо от того, хотел ли создатель обмануть, закрывая лазейку, которую мог бы открыть аргумент "мы только шутим". Чат-боты также подпадают под действие правил. Когда человек начинает взаимодействовать с ИИ-системой, ему должны сообщить об этом в момент контакта, а не в мелком шрифте на странице условий обслуживания, которую никто не читает. Есть реальные исключения. Явно нереалистичный или фантастический контент находится вне правил, а текст, сгенерированный ИИ, избегает маркировки, если человек с подлинной редакторской ответственностью его значимо проверил. Творческая работа получает более легкое обращение. Художественный и сатирический контент все еще должен содержать раскрытие, но только таким образом, чтобы не испортить восприятие работы, что является жестом в сторону кинематографистов и художников. Штрафы придают правилам силу. Нарушения могут повлечь штрафы до 15 миллионов евро или 3% от годового оборота компании по всему миру, в зависимости от того, что больше, что достаточно, чтобы сосредоточить умы в Силиконовой долине и Брюсселе. Сроки не совсем фиксированы. Обязанности официально применяются с 2 августа, но отдельный пакет упрощений предложил перенести срок маркировки машин на декабрь, что является частью более широких усилий, которые сократили некоторые части Закона о ИИ. Отрасль пытается продвинуться на границах. Рекламодатели, среди прочих, утверждали, что рекламные объявления, сгенерированные ИИ, должны быть освобождены от правил прозрачности, что является лоббистской борьбой, которая проходила параллельно с внедрением закона. Комиссия пыталась внести ясность. Она опубликовала проект руководящих принципов в мае и завершает кодекс практики о том, как маркировать и обозначать контент ИИ, который компании могут подписать, чтобы показать, что они соблюдают требования. Охват больше, чем в Европе. Поскольку глобальные платформы редко создают отдельные системы для одного рынка, режим маркировки ЕС, вероятно, будет формировать то, как контент ИИ маркируется по всему миру, так же как это делал его закон о конфиденциальности ранее. Исполнение будет сложной частью. Водяные знаки могут быть удалены, метаданные могут быть потеряны, а текст, написанный машиной, notoriously трудно обнаружить, поэтому правила будут столь же сильны, как и инструменты, которые их проверяют. Дипфейки являются самым острым испытанием. ЕС отдельно предпринял шаги к запрету неконсентированных интимных дипфейков, и режим маркировки предназначен для того, чтобы поймать более широкий круг синтетических медиа, прежде чем это полностью подорвет доверие. Ставки выходят за рамки соблюдения. Европа ставит на то, что обязательная прозрачность может сохранить общее представление о том, что реально в интернете, в момент, когда генеративные инструменты делают убедительные фейки тривиальными для производства. Сработает ли это — открытый вопрос. Этот закон является самой амбициозной попыткой маркировать синтетический мир, но его успех зависит от того, сможет ли обнаружение догнать генерацию, гонка, в которой фальсификаторы пока выигрывают.