Приключение ИИ Google Earth длилось всего один день. Это была история опасного невежества.

      Технологические гиганты явно не понимают обстановку или просто действуют быстрее, чем следовало бы, когда речь идет о внедрении ИИ. Google уже внедрил свой ИИ Gemini в каждом уголке своего программного обеспечения, от Android до ежедневных инструментов продуктивности, таких как Gmail, которые используют сотни миллионов пользователей каждый день. ИИ повсюду. Не все из этого плохо, имейте в виду. Но в некоторых местах это просто кажется навязанным.

      В своем последнем эксперименте по внедрению ИИ компания нацелилась на Google Earth. Идея заключалась в том, чтобы позволить пользователям использовать генератор изображений Nano Banana 2 и создавать изображения, которые можно разместить на карте. На бумаге это классная идея. Как бы выглядел Колизей в вашем городском районе? Да, забавные вещи вроде этого.

      Что если я размещу ядерный реактор на карте враждебного государства или танк на земле разрушенной войной нации? Что ж, это проблема, и именно это Google Earth и произвел без каких-либо ограничений.

      В чем же весь шум, а?

      Ладно, давайте вернемся к истокам и добрым намерениям. Вот что имел в виду Google:

      «Впервые вы можете создавать пользовательские изображения, используя спутниковые, аэрофотографические и 3D-изображения Google Earth вместе с Nano Banana, который создает концепции, основанные на реальном мире. Просто увеличьте масштаб до места в Google Earth в вебе, нажмите "создать изображение" и введите все, что хотите увидеть».

      Вот в чем проблема. ИИ не всегда желанный гость.

      На самом деле, ИИ Google был неправильно использован множеством недобросовестных пользователей в недалеком прошлом. В раскрытии, представленном перед Комиссией по безопасности в интернете Австралии, сообщалось, что Gemini AI был использован для создания материалов с глубокими подделками, связанных с терроризмом и детской эксплуатацией. Ранее в этом году подразделение Google Cloud раскрыло использование Gemini киберпреступниками, занимающимися вредоносным ПО и операциями по слежке.

      Задача 1: Питомец Парадайз или Среда обитания 🐶🐱 В Google Earth: увеличьте масштаб до места и нажмите "создать изображение". Затем вставьте этот запрос, заполните пропуски и нажмите Enter. «Адаптируйте это пространство как роскошный пятизвездочный курорт для животных с большим [Основным элементом]. Структура построена из… pic.twitter.com/gYlWTmOLzy— Google Earth (@googleearth) 30 июля 2026 года

      Всего несколько дней назад Google подал иск против сети, связанной с Китаем, за использование Gemini для запуска масштабных фишинговых кампаний. Даже для обычного пользователя легко обмануть генератор изображений ИИ Google, заставив его создать что-то столь тревожное, как нацистский Губка Боб. Ситуация с моделью генерации изображений ChatGPT от OpenAI не слишком отличается.

      Google опасно приблизился к пословице о солнце. Последней игровой площадкой для компании стал Google Earth, и неудача длилась всего один день. Хенк ван Эсс, эксперт по онлайн-исследованиям, протестировал новую функцию ИИ и быстро разнес ее в пух и прах. Вот что он написал в своем информационном бюллетене Digital Digging:

      «Сегодня вечером я ввел всего одно предложение в Google Earth и разместил беженцев рядом с мексиканской границей. Затем я разместил ядерную электростанцию в Иране. Затем я поставил смертельную аварию на улице в Амстердаме. Спутниковые снимки Google под всеми тремя. Что, черт возьми, делает Google?»

      Так много слоев

      Это не было концом проблемы. Двигатель Nano Banana просто выполнил проблемные запросы на генерацию изображений ИИ без каких-либо ограничений. «Ничего не было отказано, ничего не было смягчено, и ничего не указывало на то, что я должен попробовать другой запрос», — написал ван Эсс.

      ‼️ СРОЧНО: Google убирает генерацию изображений Nano Banana из Google Earth через день после запуска. Пользователи создали запросы для генерации изображений, показывающих самолет, врезающийся в небоскреб в Манхэттене, бомбардировку в Москве, ядерную электростанцию в Иране, беженцев на границе США и Мексики и бомбу… https://t.co/q9lNNaazD3 pic.twitter.com/nyuiKiQ2Qi— International Cyber Digest (@IntCyberDigest) 31 июля 2026 года

      Давайте дадим Google немного поблажки. Генераторы изображений ИИ обычно сосредоточены на избегании таких вещей, как сексуализированные изображения, оружие, расистские стереотипы и другие явно плохие запросы. Они не могут справиться с тем, что кажется нормальным, но может вызвать бурю в международных отношениях. Размещение ядерного реактора на карте Ирана или создание воронки от бомбы на больнице в Газе — это два таких примера «невинных неудач», если можно так выразиться.

      Но это не конец надзора Google за ИИ. Генерируемые ИИ изображения в Google Earth прошли через проверки ИИ, не вызвав никаких тревог. BBC также провела стресс-тестирование инструмента, и он выдал спорные вещи, такие как российские танки, движущиеся по украинской земле, Эйфелева башня, лежащая разрушенной на земле, и великие пирамиды Египта, поглощенные гигантской воронкой.

      Что тревожно, исследование отмечает, что было возможно обмануть Gemini Google, заставив его сказать, что эти фальшивые изображения являются легитимными. Неудивительно, что инструменты проверки ИИ третьих сторон также не справились в многочисленных случаях. Напомню, что все генерируемые ИИ изображения, созданные Gemini (и Nano Banana), имеют невидимый водяной знак SynthID (разработанный Google DeepMind) и видимый водяной знак.

      Это даже не моя самая большая проблема. Интернет переполнен жутко реалистичным контентом, созданным ИИ, и многие люди даже не подозревают, что это подделка. И даже если они подозревают, они просто не знают, как проверить его подлинность и определить, был ли он создан ИИ. Во многих случаях у людей просто нет стимула проверять сомнительные изображения.

      «Журналисты могут проверить это изображение… и сообщить о нем. Но опять же, не все будут это делать», — сказал BBC исследователь ИИ Генри Эйдер. Я поговорил с тремя фактчекерами, связанными с Международной сетью фактчекинга (IFCN), поддерживаемой Poynter, и они сказали мне, что существует огромный разрыв в цифровой грамотности. И да, в большинстве случаев у них просто нет причины проверять истинное происхождение синтетического изображения и публично его помечать.

      Это было просто плохо

      Тем не менее, эксперимент Google с ИИ, позволяющий пользователям выражать свою креативность, был примером поразительного невежества. К счастью, компания быстро исправила курс и быстро убрала это.

      «Мы видели, как геопространственные специалисты используют эту функцию для множества полезных целей, однако мы также видели, как люди делятся скриншотами сгенерированных изображений, которые, по-видимому, нарушают наши правила. Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более строгих ограничений», — сообщила компания в заявлении на своем официальном блоге.

      Google

      Я подозреваю, что этот откат функции был быстрым, потому что ставки были гораздо выше. Модели изображений ИИ могут легко быть обманутыми, чтобы нарушать авторские права, производить сексуализированные изображения и вызывать всевозможный визуальный хаос. Не смотрите дальше, чем Grok AI на X, ранее Twitter. Google так срочно убрал эту функцию, я полагаю, потому что это могло бы перерасти в международный шторм.

      Google поддается политическим силам и показывает другую территориальную карту в зависимости от того, где вы живете. Пограничные споры между Индией и Пакистаном и Индией и Китаем — два таких примера, и вы можете прочитать о них в этом анализе The Washington Post. Также не будем забывать о невероятном международном давлении на Google, когда речь идет о войнах за превосходство в ИИ и протестах против центров обработки данных.

      Ядерный реактор в Иране во время активного конфликта с США? Что ж, я не удивлен (и также