Китай разрабатывает правила по борьбе с кибербуллингом, которые охватывают злоупотребления, созданные ИИ.

      Интернет-регулятор Китая опубликовал проект правил для борьбы с кибербуллингом, и, согласно Reuters, меры направлены на борьбу с злоупотреблениями, созданными с помощью искусственного интеллекта.

      Администрация киберпространства Китая выпустила проект для общественного обсуждения 29 июля, что является частью расширяющихся усилий по контролю за тем, что происходит на платформах страны.

      Проект нацелен на то, что китайские регуляторы называют «кибернасилием». Это охватывает онлайн-распространение преследующей, клеветнической или ложной информации, которая наносит вред человеку, категория, которую регулятор определяет достаточно широко, чтобы включить в нее злоупотребления с использованием ИИ наряду с обычным троллингом и нападками.

      Большая часть ответственности ложится на платформы. Согласно проекту, сервисы должны будут создавать классификаторы, которые обнаруживают кибернасилие, предлагать пользователям «защиту в один клик», которая блокирует входящие сообщения и комментарии, и действовать по этим сигналам, ограничивая оскорбительный контент и расследуя аккаунты, стоящие за ним.

      Механизм исполнения подробно описан. Платформы будут вести черные списки повторных правонарушителей, регулярно составлять отчеты о своих вмешательствах и запускать системы раннего предупреждения, чтобы поймать нападения до того, как они эскалируют, с наказаниями вплоть до закрытия аккаунта злоумышленника. 💜 технологий ЕС Последние события на технологической сцене ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Некоторые платформы уже опережают текст. Сайт вопросов и ответов Zhihu, предвосхищая правила, предпринял шаги по ограничению анонимных аккаунтов, что свидетельствует о том, как быстро китайские компании адаптируются, как только регуляторное направление становится ясным.

      Измерение ИИ делает это актуальным. Reuters сообщает, что правила предназначены для охвата злоупотреблений с использованием ИИ, глубоких фейков и синтетического текста, которые могут производиться в больших объемах и нацеливаться на одну жертву, форма преследования, которую старые системы модерации никогда не были созданы для выявления.

      Это соответствует модели регулирования ИИ в Китае. Пекин уже требует, чтобы контент, созданный ИИ, был помечен, и предпринял шаги по регулированию услуг, похожих на человека, и цифровой индустрии, в которой люди даже сдают свои лица в аренду ИИ, создавая сеть правил, которые рассматривают синтетические медиа как нечто, что нужно отслеживать, а не оставлять в покое.

      Интерес государства не только защитный. Те же инструменты, которые обнаруживают злоупотребления, также идентифицируют говорящих, и режим, который требует от платформ вести учет, отслеживать и вносить в черный список пользователей, предоставляет властям более полную карту того, кто что говорит, что является точкой, которую критики интернет-управления Китая поднимают неоднократно.

      Это напряжение проходит через проект. Оформленный как щит для жертв преследования, он также углубляет обязательства, которые делают китайские платформы подотчетными государству, и грань между защитой пользователей и их наблюдением, как всегда, проводится правительством.

      Жертвы, о которых идет речь, достаточно реальны. Кампании кибербуллинга в Китае заставили людей уйти из сети и, в некоторых случаях, к худшему, а общественный гнев после нескольких громких дел дал властям популярный мандат на действия.

      Анонимность находится в центре борьбы. Большая часть онлайн-злоупотреблений в Китае публикуется с анонимных или псевдонимных аккаунтов, и требования проекта по ведению учета и черным спискам заставляют платформы знать, кто стоит за ними, что именно и делает правила эффективными и вызывает беспокойство.

      Другие правительства также сталкиваются с той же проблемой. От злоупотреблений с глубокими фейками до синтетического преследования, регуляторы от Европы до Соединенных Штатов пытаются написать правила для жестокости, созданной ИИ, и проект Китая является одним из более предписывающих попыток на сегодняшний день.

      Что произойдет дальше, это процедурный вопрос. Проект открыт для общественного обсуждения, прежде чем он может быть окончательно утвержден, и важные детали, такие как то, насколько агрессивно платформы должны сканировать и насколько точно сформулированы положения о ИИ, могут измениться до вступления правил в силу.

      Тем не менее, направление установлено. Китай строит инфраструктуру для обнаружения и реагирования на злоупотребления, созданные ИИ, в масштабах, и независимо от того, что говорит окончательный текст, ожидание, которое он устанавливает для платформ, заключается в том, что они увидят все и ответят за это.