Запрет Канады на социальные сети также нацелен на AI-чат-ботов

      Канада представила законопроект, который запретит детям младше 16 лет пользоваться социальными сетями и, в повороте, который отличает его от других стран, регулирует ИИ-чат-ботов в том же контексте.

      Закон о цифровой безопасности, представленный в среду, является последним шагом в глобальной волне правительств, ужесточающих контроль над платформами из-за вреда детям. Версия Канады шире, чем у большинства.

      Это не всеобъемлющий запрет. Платформы могут подать заявку на освобождение, если докажут, что соответствуют строгим стандартам безопасности, подход, который призван побудить компании переработать свои услуги, а не просто закрыть доступ детям.

      «Безопасность детей не может быть второстепенной задачей», — сказал Марк Миллер, министр канадской идентичности и культуры, который курирует законопроект для правительства Марка Карни.

      Чат-боты под прицелом

      Самая новаторская особенность законопроекта заключается в том, что он рассматривает ИИ-чат-ботов как проблему безопасности детей сами по себе. Он создаст цифрового регулятора для установления стандартов безопасности как для социальных сетей, так и для услуг чат-ботов.

      Платформы должны будут выявлять риски, внедрять дизайн, соответствующий возрасту, и предлагать инструменты блокировки и пометки, некоторые из которых они уже начали добавлять самостоятельно, такие как глобальные настройки учетных записей для подростков от Meta. Законопроект конкретно нацелен на механизмы вовлечения, алгоритмические ленты, автозапуск и бесконечную прокрутку, которые, по словам правительства, усиливают вред.

      Фокус на чат-ботах не является абстрактным в Канаде. Законопроект появился через несколько недель после того, как семьи, пострадавшие от одной из худших массовых стрельб в стране, подали в суд на OpenAI, утверждая, что компания знала из разговоров нападающего в ChatGPT о его планах насилия и не предупредила полицию. OpenAI не была признана ответственной, и обвинения не доказаны.

      Несоблюдение будет дорого стоить: до 3 процентов от глобального дохода или 10 миллионов канадских долларов, в зависимости от того, что больше. Платформы также должны будут удалить неприемлемые интимные изображения в течение 24 часов после получения сообщения.

      Следуя примеру Австралии, но дальше

      Австралия стала первой страной, которая запретила детям младше 16 лет пользоваться социальными сетями в декабре, деактивировав около 5 миллионов подростковых аккаунтов. Канада явно пытается пойти дальше, регулируя дизайн и чат-ботов, а не только доступ.

      Проблема заключается в обеспечении соблюдения. Собственный регулятор Австралии обнаружил, что, несмотря на массовую деактивацию, около семи из десяти детей все равно сохранили аккаунт, что напоминает о том, что написание закона — это легкая часть.

      Законопроект Канады, C-34, ждет долгий путь. Официальные лица говорят, что его принятие может занять год, а еще 18 месяцев потребуется для создания регулятора. Франция, Дания, Польша и Греция рассматривают аналогичные ограничения, поэтому за результатом будут следить далеко за пределами Оттавы.