Что происходит, когда детекторы ИИ не справляются? Исследователи говорят, что мы должны научиться распознавать фальшивые лица ИИ.

      Искусственный интеллект стал удивительно хорош в создании фальшивых человеческих лиц. На самом деле, настолько хорош, что старые приемы, на которые полагались люди – подсчет пальцев, выявление искаженных серег или поиск искаженных фонов – быстро становятся устаревшими. Согласно новому исследованию, на которое ссылается BBC, следующей линией защиты может быть вовсе не лучший детектор ИИ. Это может быть просто лучше обученный человек.

      Исследователи из Университета Абердина, работая совместно с Национальным университетом Австралии, обнаружили, что люди могут значительно улучшить свою способность различать лица, сгенерированные ИИ, и настоящие лица после относительно короткого периода структурированного обучения. Вместо того чтобы искать очевидные визуальные сбои, участникам было предложено распознавать тонкие паттерны, которые современные генераторы изображений все еще испытывают трудности с последовательным воспроизведением.

      Гонка ИИ заставляет людей тоже эволюционировать

      В течение многих лет идентификация изображений, созданных ИИ, казалась почти тривиальной. Ранние модели часто создавали шесть пальцев, несовпадающие серьги или невозможные тени. Но современные генераторы, работающие на таких системах, как StyleGAN3 и новые модели диффузии, в значительной степени вышли за рамки этих выдающих себя ошибок. В результате исследователи утверждают, что полагаться на визуальные дефекты больше не является эффективной стратегией.

      Представительное изображение Unsplash

      Вместо этого участникам было предложено оценивать шесть перцептивных качеств, которые часто имеют лица ИИ. К ним относятся необычно идеальная симметрия лица, высоко пропорциональные черты, выше среднего привлекательность, обобщенные структуры лиц, ограниченное эмоциональное выражение и лица, которые удивительно трудно запомнить после того, как вы отводите взгляд.

      Результаты были поразительными. До обучения участники правильно идентифицировали лица, сгенерированные ИИ, только около 40 процентов времени. После примерно часа направленного обучения и повторного контакта как с реальными, так и с синтетическими лицами, точность возросла до почти 80 процентов. Небольшое количество участников даже приблизилось к идеальным показателям обнаружения. Более того, их уверенность стала лучше соответствовать их фактическим результатам, что, по данным более ранних исследований, часто отсутствовало.

      Почему распознавание лиц ИИ имеет значение больше, чем когда-либо

      Это уже не просто академическое упражнение. Технология дипфейков уже используется в финансовом мошенничестве, политических кампаниях влияния и онлайн-мошенничестве с идентичностью. BBC ссылается на оценки Deloitte, предполагающие, что убытки от мошенничества с дипфейками, поддерживаемого ИИ, в Соединенных Штатах могут вырасти до 40 миллиардов фунтов стерлингов в следующем году, резко увеличившись с примерно 12 миллиардов фунтов стерлингов в 2023 году. Также упоминается широко освещенный случай в Гонконге, в котором мошенники якобы использовали видеозвонок с дипфейком, чтобы убедить сотрудника перевести 25 миллионов фунтов стерлингов. Тем временем, более раннее расследование Associated Press обнаружило профиль в LinkedIn, созданный ИИ, который успешно проник в круги политиков США.

      Исследование также подчеркивает еще одну важную проблему: системы ИИ остаются менее надежными в создании лиц пожилых людей, молодых людей и людей из недостаточно представленных этнических групп из-за предвзятостей в их обучающих данных. Эти несовершенства все еще могут предоставить полезные подсказки для человеческих наблюдателей.

      Unsplash

      Возможно, самым интересным выводом является то, что человеческий мозг, похоже, учится так же, как и сам ИИ. Постоянно видя примеры реальных и фальшивых лиц, люди постепенно развивают интуитивное чувство подлинности, а не полагаются на один единственный признак. Исследователи считают, что этот инстинкт может стать одним из наших самых сильных инструментов по мере того, как генеративный ИИ продолжает улучшаться.

      Ирония трудно игнорировать. Поскольку искусственный интеллект становится лучше в притворстве, что он человек, людям, возможно, придется начать обучаться так же, как машины – через данные, повторение и распознавание паттернов. Детекторы ИИ могут продолжать улучшаться, но исследования показывают, что они не должны быть единственной защитой. Человеческое суждение все еще имеет свою роль; ему просто нужно обновление.