Родителям Великобритании предупреждают о риске изображений насилия над детьми с использованием ИИ

      TL;DR Национальное агентство по борьбе с преступностью Великобритании и Фонд интернет-наблюдения предупредили родителей о том, что не следует публиковать изображения детей в открытом доступе, ссылаясь на изображения насилия, созданные с помощью ИИ. Фонд обнаружил 8029 изображений и видео с насилием, созданных ИИ, в 2025 году, что на 14% больше, при этом количество видео с насилием, созданных ИИ, взлетело с 13 до 3440 за год. Новые совместные рекомендации призывают родителей ограничить настройки конфиденциальности и проверить старые публикации. Родителям следует прекратить публичную публикацию изображений своих детей в интернете из-за роста изображений насилия, созданных ИИ, предупредило Национальное агентство по борьбе с преступностью Великобритании. Агентство выпустило этот совет совместно с Фондом интернет-наблюдения, благотворительной организацией, отвечающей за поиск и удаление материалов сексуального насилия над детьми в интернете. Фонд выявил 8029 изображений и видео с реалистичным сексуальным насилием над детьми, созданных ИИ, в 2025 году, что на 14% больше по сравнению с предыдущим годом. Наиболее заметный рост наблюдается в видео, количество которых увеличилось с всего 13 подтвержденных видео с насилием, созданных ИИ, в 2024 году до 3440 в прошлом году. Такие изображения рассматриваются как материалы сексуального насилия над детьми в соответствии с законодательством Великобритании, независимо от того, как они были созданы. «Пока мы и наши коллеги из правоохранительных органов занимаемся преступниками, профилактика остается жизненно важной», — сказал Тим Райт, старший менеджер NCA. 💜 технологий ЕС Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Совместные рекомендации призывают родителей проверить настройки конфиденциальности и ограничить публикации доверенными группами, такими как список «близких друзей». Также предлагается проверить старые публикации на наличие идентифицирующих деталей, таких как лицо ребенка или школьная форма, и пересмотреть согласие, данное школам и клубам, которые фотографируют детей. От «шарентинга» до синтетического насилия Предупреждения о «шарентинге», термин, который вошел в Collins English Dictionary в 2016 году, циркулируют уже много лет из-за кражи личных данных и конфиденциальности. Инструменты ИИ, которые могут убедительно манипулировать фотографиями, превратили старую проблему в нечто более острое. Фонд ранее сообщал о случае, когда преступная группа собрала фотографии учеников с веб-сайта школы и использовала ИИ для создания более 100 сексуальных изображений детей. Его данные также показывают, что вред в значительной степени зависит от пола, при этом 98% подтвержденных изображений насилия, созданных ИИ, в 2024 году касались девочек, где фиксировался половой акт. Сами дети осведомлены о угрозе, и исследование ЮНИСЕФ показало, что четверть детей боится, что их изображения будут превращены в откровенные дипфейки. Активисты давно выступают за более строгие европейские инструменты против неконсенсуальных дипфейков. Регулирование настигает Великобритания приняла меры по запрету так называемых приложений для нудификации и скорректировала закон, чтобы компании ИИ могли проверить, могут ли их системы быть использованы для производства такого материала. Фонд, который выступал за запрет, описал эти приложения как продукты, не имеющие смысла существовать. В то же время Ofcom осуществляет контроль за Законом о безопасности в интернете, открыв расследование по безопасности детей в Telegram после проверок X и Grok. Министры также рассматривают возможность запрета на социальные сети для лиц младше 16 лет. Более широкое осознание проблемы дипфейков, от знаменитостей до школьников, уже заставило законодателей действовать быстрее, чем они планировали. Рекомендации NCA переносят часть этой срочности на семейный фотоальбом. «Это не гипотетические угрозы, это реальные угрозы», — сказала генеральный директор IWF Керри Смит, подчеркивая, что цель заключается в информированном обмене с доверенными людьми, а не в полном отсутствии обмена. В конечном итоге совет касается не паники, а сокращения пула сырья.