Искусственный интеллект подделывает редкие наблюдения за птицами и наносит ущерб науке

      Редкая птица появилась в центральной Бразилии, или так казалось. Фотография на платформе дикой природы iNaturalist показала черного воробья с красными крыльями. Этот североамериканский вид никогда не встречался в этой части Бразилии. Это было бы заметное первое появление.

      Это было не настоящим. Птица на оригинальной фотографии была эполетным ориолом, распространенным местным видом. Фотограф попросил инструмент ИИ сделать изображение «лучше». Программное обеспечение с готовностью добавило черты другой птицы.

      Проблема с «улучшением»

      Этот случай лежит в основе предупреждения от исследователей, опубликованного в виде комментария в журнале Nature Ecology & Evolution. Они утверждают, что генеративный ИИ начинает загрязнять записи гражданской науки. Эти наблюдения, собранные от толпы, сообщают ученым, где обитают виды и как они перемещаются.

      Существует два способа, как это происходит. Редкий случай — это откровенные подделки, изображения, созданные с нуля и выданные за реальные. Более распространенный случай более тонкий. Орнитолог просит ИИ удалить ветку или улучшить размытое изображение. Модель затем восстанавливает птицу, стирая полевые знаки, которые ее идентифицируют.

      Исследователи говорят, что они уже нашли несколько сотен подозрительных изображений, распространенных по библиотеке Макаули, iNaturalist и бразильскому WikiAves. Истинное число неизвестно, потому что многие проходят незамеченными.

      Почему записи важны

      Эти платформы не просто галереи для любителей. Только iNaturalist содержит более 610 миллионов изображений. Ученые используют их, чтобы отслеживать, как дикая природа реагирует на изменение климата.

      «Обычные люди публикуют информацию, которую ученый, вероятно, никогда не смог бы получить в больших масштабах», — сказал Тони Иване из iNaturalist, соавтор статьи. Он назвал сеть «почти как сенсор того, что происходит на Земле в реальном времени». Его уловка: информация должна быть точной.

      Подайте плохие данные, и выводы будут неверными. Одно единственное наблюдение, выдуманное ИИ, может предположить, что вид изменил свой ареал, когда это не так. Есть и второй издержка. Манипулированные изображения, используемые для обучения инструментов идентификации ИИ, могут тихо ухудшать их.

      Смешение с дикой природой

      Откровенные обманщики обычно легко распознать. «Никто не ведется на наблюдение за туканом в Сибири», — сказал доктор Александр Лис газете The Guardian. Эколог Манчестерского метрополитенского университета возглавил статью и утверждает, что тихие редактирования представляют собой настоящую опасность.

      Лис выразился прямо: огромная доля фотографий дикой природы, которые он сейчас видит на Facebook, просто сгенерированы ИИ. Это тот же самый ИИ, который заполняет остальную часть интернета. Здесь, однако, он портит научную запись, а не ленту. Те же инструменты, которые воссоздают цель, которая никогда не была снята, могут вызвать птицу, которой никогда не было.

      Ответные меры

      Платформы начинают реагировать. Теперь iNaturalist позволяет пользователям отмечать изображения двумя способами. Полностью сгенерированный ИИ флаг скрывает изображение. Флаг с чрезмерной манипуляцией понижает его до «неформального» уровня, так что оно никогда не попадает в исследовательские базы данных.

      Пока только около 1,400 из 610 миллионов его изображений имеют флаг ИИ. Примерно 600 помечены как полностью сгенерированные. Это либо обнадеживает, либо указывает на то, сколько проходит незамеченным, в зависимости от того, как вы это воспринимаете. Обнаружить это сложно, как выяснила Meta с помощью своего собственного детектора изображений ИИ.

      Исследователи хотят более мощные инструменты: проверки аутентификации изображений и верификацию метаданных. Прежде всего, они хотят образования, чтобы орнитологи узнали, что «улучшение» фотографии может нарушить науку. Более широкий урок знаком из каждого уголка интернета, который затронул ИИ. Как только подделки становятся достаточно хорошими, доверие становится дефицитом.