Анализ связывает насильственный ИИ «мусор» с «гниением мозга» и насилием у детей

      Предупреждение о том, что «мусор» ИИ способствует когнитивному упадку и насильственным наклонностям у детей, на этой неделе разнеслось по интернету, подхваченное заголовками, которые представляют вред как установленный факт. Документ, лежащий в основе, более скромен и гораздо более неопределен, чем подразумевает освещение. Источник — это отчет, опубликованный Глобальной сетью по экстремизму и технологиям (GNET), написанный тремя исследователями из ITSTIME, итальянского центра, изучающего терроризм и онлайн-безопасность. Полезно прояснить, что это не рецензируемое исследование, не эксперимент и не клиническая оценка, а короткое аналитическое эссе, основанное на собственном мониторинге TikTok авторами. Мусор ИИ, своего рода массово производимый контент, ориентированный на вовлеченность, который сейчас заполняет социальные ленты, определяется авторами как дешевый материал, созданный для максимизации кликов с минимальным человеческим участием. То, что они описывают, — это жанр видео, сгенерированного ИИ, в котором яркие персонажи из фруктов и овощей изображают мультяшную жестокость, формат, который привлекает большую аудиторию молодых зрителей. Некоторые из них, пишут они, заимствуют визуальную грамматику экстремистской пропаганды, с одним повторяющимся персонажем, использующим иконографию Исламского государства. Их беспокойство заключается в том, что такой материал может нормализовать насилие для детей и, в меньшинстве случаев, проложить путь к более экстремальному контенту. Глагол, который выполняет основную работу в заголовках, — «вызывает», и анализ этого не поддерживает. Авторы пишут в условном наклонении на протяжении всего текста, утверждая, что клипы «могут сделать насилие смешным, нормальным или даже захватывающим для подражания», и признают, что видео обычно не создаются преданными экстремистами, а отражают копирование эстетики. Это утверждение о ассоциации и культурном дрейфе, а не доказанная цепочка от просмотра клипа до причинения вреда. Никто также не измерял когнитивные способности. «Гниение мозга», фраза, придающая освещению большую часть его заряда, используется авторами в популярном смысле: культурный эффект потребления быстрого, фрагментированного и чрезмерно стимулирующего медиа. Это не диагноз, и в статье нет когнитивного тестирования, нет выборки детей, нет указанного возрастного диапазона и нет контрольной группы. Этот пробел имеет значение, потому что тема эмоциональна, а поток низкокачественного контента ИИ теперь является кроссплатформенным явлением, от поддельной природы фотографии до потока мусора на профессиональных сетях. Контент, ориентированный на детей, является реальной и задокументированной проблемой, и меры безопасности платформ явно несовершенны: правительства от Греции до более широкого ЕС уже рассматривают более строгие ограничения для молодых пользователей. Но рассматривать кусок открытого мониторинга так, как будто это эпидемиологическое исследование, не служит ни родителям, ни исследователям. Ничто из этого не делает исследователей неправыми в том, что они поднимают тревогу. Насильственный мусор ИИ неприятен, дешев в производстве и явно достигает детей, которые не должны его видеть, и это само по себе оправдывает внимание со стороны платформ и регуляторов. Суть более узкая: самое сильное утверждение, которое поддерживает доказательство, заключается в том, что существует тревожная тенденция, которая заслуживает должного изучения, а не в том, что контент ИИ был показан как разрушающий молодые умы или делающий их насильственными. То, что отсутствует, — это именно тот вид продольного, контролируемого исследования, который мог бы отделить мимолетную фиксацию от длительного эффекта. Пока эта тщательная работа не будет выполнена, трезвое прочтение — это предупреждение, которому стоит прислушаться, а не вердикт, который следует повторять как установленный факт.