Бразилия определяет, что такое дипфейк, за пять недель до голосования.

      Бразилия голосует 4 октября, и ее избирательный суд в вторник работал над вопросом, на который многие регуляторы все еще пытаются ответить: что именно считается дипфейком? Ожидалось, что Верховный избирательный трибунал вынесет решение о более широких ограничениях для материалов кампании, созданных с помощью ИИ, сообщает Reuters. Предложенные правила выходят за рамки простого запрета обманчивых дипфейков. Они потребуют маркировки материалов кампании, созданных с помощью ИИ, запретят системы, которые рекомендуют кандидатов, и введут период тишины, в течение которого новый синтетический политический контент не может быть опубликован или продвинут непосредственно перед и после голосования. Определение имеет значение, потому что Бразилия уже столкнулась с делом, которое неудобно лежит между раскрытием и обманом. В июле Жаир Болсонару, который находится под домашним арестом и лишен возможности публичного общения, появился на запуске кампании своего сына в качестве аватара, созданного с помощью ИИ, который явно идентифицировал себя как симуляцию. Это раскрытие является центральным в юридическом аргументе. Существующие избирательные правила Бразилии нацелены на поддельный контент, который может ввести избирателей в заблуждение, но аватар ИИ, который открыто сообщает зрителям, что он является представлением ИИ, не вписывается в это определение. Коалиция Лулы подала жалобу в TSE, утверждая, что видео все равно нарушает правила, регулирующие синтетический контент, используемый для влияния на избирателей. Кампания Флавио Болсонару ответила, что явно маркированная симуляция не должна рассматриваться как дипфейк, что является аргументом, который трудно опровергнуть, если определение основано в первую очередь на том, вводят ли зрителей в заблуждение. Сам суд продемонстрировал некоторые разногласия по поводу того, где должна проходить эта граница. Президент TSE Кассио Нунес Маркес предложил, что материалы кампании, созданные с помощью ИИ, могут быть допустимыми, если они не причиняют вреда, в то время как судья Верховного суда Александр де Мораес предупредил, что та же технология может нарушить ограничения домашнего ареста Болсонару и способствовать электоральной дезинформации. Бразилия уже имела правила, касающиеся ИИ, до этих выборов. TSE ввел требования перед муниципальными выборами 2024 года, включая раскрытие синтетического контента, что помогает объяснить, почему аватар Болсонару был представлен как симуляция, а не как попытка выдать себя за него без раскрытия. Ожидается, что решение во вторник предоставит более четкое определение того, что разрешено, а что нет, хотя время для этого сложно. С оставшимися пятью неделями до национальных выборов кампании, платформы и регуляторы будут иметь очень мало времени, чтобы адаптироваться к любой структуре, которую установит суд. Проблема, которую Бразилия пытается решить, существует далеко за ее пределами. Правила, основанные на раскрытии, включая те, которые разрабатываются в рамках Закона ЕС о ИИ, построены на предположении, что информирование людей о том, когда контент был сгенерирован или изменен ИИ, может снизить его способность вводить их в заблуждение. Дело Болсонару ставит это предположение под давление, поскольку контент может быть совершенно прозрачным в отношении своей синтетической природы и все равно быть политически убедительным. Существует также вопрос, на который существующие правила не были действительно разработаны для ответа. Политик, которому законодательно запрещено говорить публично, но который появляется через представление, созданное с помощью ИИ, физически не обращался к толпе, но политическое сообщение может достигать избирателей почти так же эффективно, как если бы политик стоял там лично. Предложенные ограничения на рекомендательные системы вводят отдельную проблему, поскольку они выходят за рамки самого контента и касаются того, как платформы распределяют политический материал. Запрет алгоритмам рекомендовать конкретных кандидатов потребует от регуляторов изучения обычной механики платформ, что значительно сложнее контролировать, чем то, содержит ли отдельное видео раскрытие ИИ. Бразилия имеет больше опыта в этом роде вмешательства, чем многие страны. Ее суды были готовы занять более активную роль в регулировании онлайн-платформ и политической речи, и TSE уже установил специфические для ИИ избирательные правила до начала текущей кампании. Исполнение, вероятно, будет более сложным, чем определение правил. Период тишины по синтетическому политическому контенту в день выборов полезен только в том случае, если кто-то сможет быстро идентифицировать синтетический материал, чтобы остановить его распространение, что становится особенно сложным, когда контент проходит через частные группы обмена сообщениями, а не через публичные социальные сети. Положение о периоде тишины также является наименее протестированной частью предложения. Рассмотрение политического контента, созданного с помощью ИИ, как отдельной категории, требующей тихого периода вокруг выборов, является значительным шагом вперед по сравнению с существующими европейскими правилами, которые в основном сосредоточены на прозрачности и обстоятельствах, при которых синтетический контент может быть вводящим в заблуждение. Поэтому у европейских регуляторов есть практическая причина следить за тем, что происходит в Бразилии. Собственные требования ЕС к прозрачности основываются на некоторых из тех же предположений о раскрытии, в то время как европейские выборы еще не произвели сопоставимого случая с участием политика, которому запрещено общаться, но который все равно может достичь избирателей через представление, созданное с помощью ИИ. Масштаб электората Бразилии делает исполнение еще более сложным. Более 150 миллионов человек имеют право голоса, и мессенджеры глубоко укоренены в политической коммуникации, большая часть которой происходит в частных беседах и группах, которые регуляторы не могут реально контролировать так же, как публичные посты. Таким образом, Бразилия пытается установить границы, пока кампания уже идет, и политические акторы, затронутые этими границами, имеют прямой интерес в том, как они будут проведены. Оставление правил неопределенными создало бы свои собственные проблемы, но установление их всего за несколько недель до голосования оставляет очень мало места для регуляторов, кампаний и платформ, чтобы узнать, как они работают. Выборы состоятся 4 октября, оставляя TSE примерно пять недель для тестирования любых правил, которые оно одобрило во вторник, на практике.