Запрет на социальные сети в Канаде также нацелен на ИИ-чат-ботов

      Канада представила законопроект, который запретит детям младше 16 лет пользоваться социальными сетями и, в повороте, который отличает его от других стран, будет регулировать ИИ-чат-ботов в том же контексте.

      Закон о цифровой безопасности, представленный в среду, является последним шагом в глобальной волне правительств, ужесточающих контроль над платформами из-за вреда детям. Версия Канады шире, чем большинство.

      Это не всеобъемлющий запрет. Платформы могут подать заявку на освобождение, если докажут, что соответствуют строгим стандартам безопасности, подход, направленный на то, чтобы подтолкнуть компании к переработке своих услуг, а не просто закрывать доступ детям.

      «Безопасность детей не может быть второстепенной задачей», — сказал Марк Миллер, министр канадской идентичности и культуры, который курирует законопроект для правительства Марка Карни.

      Чат-боты под прицелом

      Самая новаторская особенность законопроекта заключается в том, что он рассматривает ИИ-чат-ботов как проблему безопасности детей сами по себе. Он создаст цифрового регулятора для установления стандартов безопасности как для социальных сетей, так и для услуг чат-ботов.

      Платформы должны будут выявлять риски, внедрять дизайн, соответствующий возрасту, и предлагать инструменты блокировки и сигнализации, некоторые из которых они уже начали добавлять самостоятельно, такие как глобальные настройки учетных записей для подростков от Meta. Законопроект конкретно нацеливается на механизмы вовлечения, алгоритмические ленты, автозапуск и бесконечную прокрутку, которые, по мнению правительства, усиливают вред.

      Фокус на чат-ботах не является абстрактным в Канаде. Законопроект появляется через несколько недель после того, как семьи, пострадавшие от одной из худших массовых стрельб в стране, подали в суд на OpenAI, утверждая, что компания знала из разговоров нападающего в ChatGPT о его планах насилия и не предупредила полицию. OpenAI не была признана ответственной, и обвинения не доказаны.

      Несоблюдение будет дорого стоить: до 3 процентов от глобального дохода или 10 миллионов канадских долларов, в зависимости от того, что больше. Платформы также должны будут удалять неприемлемые интимные изображения в течение 24 часов после получения сообщения.

      Следуя примеру Австралии, но дальше

      Австралия стала первой страной, которая запретила детям младше 16 лет пользоваться социальными сетями в декабре, деактивировав около 5 миллионов подростковых аккаунтов. Канада явно пытается пойти дальше, регулируя дизайн и чат-ботов, а не только доступ.

      Проблема заключается в обеспечении соблюдения. Собственный регулятор Австралии обнаружил, что, несмотря на массовую деактивацию, около семи из десяти детей все равно сохранили свои аккаунты, что напоминает о том, что написание закона — это легкая часть.

      Законопроект Канады, C-34, ждет долгий путь впереди. Официальные лица говорят, что его принятие может занять год, а еще 18 месяцев потребуется для создания регулятора. Франция, Дания, Польша и Греция рассматривают аналогичные ограничения, поэтому исход будет наблюдаться далеко за пределами Оттавы.