L'avventura dell'IA di Google Earth è durata solo un giorno. Era una storia di pericolosa ignoranza.

      I giganti della tecnologia chiaramente non stanno leggendo la situazione, o si stanno muovendo più velocemente di quanto dovrebbero quando si tratta di implementazione dell'IA. Google ha già infilato la sua IA Gemini in ogni angolo della sua pila software, da Android agli strumenti di produttività quotidiana come Gmail, utilizzati da centinaia di milioni di utenti ogni giorno. L'IA è ovunque. Non tutta è negativa, sia chiaro. Ma in alcuni casi, sembra semplicemente forzata.

      Nel suo ultimo esperimento di "IA-ficazione", l'azienda ha preso di mira Google Earth. L'idea era di permettere al pubblico di utilizzare il generatore di immagini IA Nano Banana 2 e creare immagini che possono essere posizionate sulla vista della mappa. Sulla carta, è un'idea interessante. Come sarebbe il Colosseo di Roma nel tuo quartiere urbano? Sì, cose divertenti come quella.

      E se mettessi un reattore nucleare sulla mappa di uno stato nemico, o un carro armato sul suolo di una nazione dilaniata dalla guerra? Beh, questo è un problema, e questo è esattamente ciò che Google Earth ha prodotto senza alcuna inibizione.

      Qual è il grande trambusto, eh?

      Va bene, torniamo alle origini e alle buone intenzioni prima. Questo è ciò che Google aveva in mente:

      “Per la prima volta, puoi generare immagini personalizzate utilizzando le immagini satellitari, aeree e 3D di Google Earth insieme a Nano Banana, che crea concetti radicati nel mondo reale. Basta ingrandire un luogo in Google Earth sul web, toccare 'crea immagine' e digitare ciò che vuoi vedere.”

      Ecco il problema. L'IA non è sempre un ospite gradito.

      Infatti, l'IA di Google è stata abusata in numerosi modi da più attori malintenzionati nel passato non troppo lontano. In una comunicazione inviata alla Commissione eSafety australiana, è stato riferito che Gemini IA è stata abusata per creare materiale di terrorismo e abuso infantile generato dall'IA. All'inizio di quest'anno, l'unità Cloud di Google ha rivelato l'uso di Gemini da parte di criminali informatici coinvolti in operazioni di malware e sorveglianza.

      Sfida 1: Paradiso degli animali o Habitat 🐶🐱 In Google Earth: ingrandisci un luogo e tocca 'crea immagine.' Poi incolla questo prompt, riempi gli spazi vuoti e premi invio. “Adatta questo spazio come un resort per animali di lusso a cinque stelle con un grande [Caratteristica Principale]. La struttura è costruita da… pic.twitter.com/gYlWTmOLzy— Google Earth (@googleearth) 30 luglio 2026

      Solo pochi giorni fa, Google ha intentato una causa contro una rete collegata alla Cina per l'uso di Gemini per lanciare campagne di phishing su larga scala. Anche per un utente normale, è facile ingannare il generatore di immagini IA di Google per creare qualcosa di disturbante come un Spongebob nazista. La situazione con il modello di generazione di immagini ChatGPT di OpenAI non è molto diversa.

      Google ha volato pericolosamente vicino al proverbiale Sole. L'ultimo parco giochi IA per l'azienda era Google Earth, e la disavventura è durata solo un giorno. Henk van Ess, un esperto di ricerca online, ha provato la nuova funzione IA e l'ha rapidamente demolita. Questo è ciò che ha scritto nella sua newsletter, Digital Digging:

      “Stasera ho digitato solo una frase in Google Earth e ho messo rifugiati vicino al confine messicano. Poi ho piantato una centrale nucleare in Iran. Poi ho messo un incidente mortale su una strada ad Amsterdam. Le immagini satellitari di Google sotto tutti e tre. Cosa sta facendo Google?”

      Tanti strati

      Quella non era la fine del problema. Il motore Nano Banana ha semplicemente soddisfatto le richieste problematiche di generazione di immagini IA senza alcun contrattacco. “Niente è stato rifiutato, niente è stato attenuato, e niente ha suggerito di provare un prompt diverso,” ha scritto van Ess.

      ‼️ NOTIZIA: Google sta ritirando la generazione di immagini Nano Banana da Google Earth un giorno dopo il lancio. Gli utenti hanno creato prompt per generare immagini che mostrano un aereo che colpisce un grattacielo di Manhattan, un bombardamento a Mosca, una centrale nucleare in Iran, rifugiati al confine tra Stati Uniti e Messico e una bomba… https://t.co/q9lNNaazD3 pic.twitter.com/nyuiKiQ2Qi— International Cyber Digest (@IntCyberDigest) 31 luglio 2026

      Diamo un po' di credito a Google qui. I generatori di immagini IA di solito si concentrano sull'evitare cose come immagini sessualizzate, armi, stereotipi razzisti e altre richieste ovviamente negative. Non riesce a gestire cose che sembrano normali, ma possono sollevare una tempesta nelle relazioni internazionali. Posizionare un reattore nucleare sulla mappa dell'Iran, o mettere un cratere di bomba su un ospedale di Gaza, sono due esempi di “fallimenti innocenti,” se posso dirlo in questo modo.

      Ma non è la fine della supervisione dell'IA di Google. Le immagini generate dall'IA su Google Earth sono passate attraverso i controlli dell'IA senza sollevare alcun allarme. La BBC ha anche testato lo strumento, e ha sputato fuori cose controverse come carri armati russi che si muovono su terra ucraina, la Torre Eiffel giacente crollata a terra, e le grandi piramidi d'Egitto inghiottite da un enorme voragine.

      Preoccupante, la ricerca nota che era possibile ingannare Gemini di Google nel dire che queste immagini false erano legittime. Non sorprende che anche gli strumenti di controllo dell'IA di terze parti siano falliti in numerosi casi. Da ricordare, tutte le immagini generate dall'IA create da Gemini (e Nano Banana) vengono con un watermark invisibile SynthID (sviluppato da Google DeepMind) e un watermark visibile, anch'esso.

      Questo non è nemmeno la mia preoccupazione più grande. Internet è pieno di contenuti generati dall'IA inquietantemente realistici, e molte persone non sospettano nemmeno che siano falsi. E anche se sospettano, semplicemente non sanno come verificarne l'autenticità e rilevare se fosse IA. In molti casi, le persone semplicemente non hanno l'incentivo a verificare immagini dubbie.

      “I giornalisti potrebbero essere in grado di controllare quell'immagine... e riferirne. Ma di nuovo, non tutti lo faranno,” ha detto il ricercatore di IA, Henry Ajder, alla BBC. Ho parlato con tre verificatori di fatti associati alla Rete Internazionale di Verifica dei Fatti (IFCN) sostenuta da Poynter, e mi hanno detto che c'è un enorme divario di alfabetizzazione digitale. E sì, nella maggior parte dei casi, semplicemente non hanno motivo di verificare la vera origine di un'immagine sintetica e segnalarla pubblicamente.

      Questo è stato semplicemente brutto

      Tuttavia, l'esperimento di Google con l'IA per permettere agli utenti di esprimere la propria creatività è stato un caso di straordinaria ignoranza. Fortunatamente, l'azienda ha fatto una correzione di rotta e l'ha ritirata rapidamente.

      “Abbiamo visto professionisti geospaziali utilizzare questa funzione per una serie di scopi utili, tuttavia abbiamo anche visto persone condividere screenshot di immagini generate che sembrano violare le nostre politiche. Quindi stiamo ritirando questa funzione in Google Earth mentre lavoriamo per implementare guardrail più forti,” ha condiviso l'azienda in una dichiarazione sul suo blog ufficiale.

      Google

      Sospetto che questo ritiro della funzione sia stato rapido perché le poste in gioco erano molto più alte. I modelli di immagini IA possono facilmente essere ingannati a violare le guardie del copyright, produrre immagini sessualizzate e sollevare ogni tipo di inferno visivo. Non cercare oltre il Grok AI su X, precedentemente Twitter. Google ha ritirato questa funzione così urgentemente, credo, perché potrebbe sfociare in una tempesta internazionale.

      Google si piega ai poteri politici e mostra una mappa territoriale diversa, a seconda di dove vivi. Le dispute di confine tra India-Pakistan e India-Cina sono due esempi, e puoi leggere di più su di esse in questa analisi del Washington Post. Inoltre, non dimentichiamo la straordinaria pressione internazionale su Google quando si tratta di guerre di supremazia dell'IA e delle proteste nei centri dati.

      Un reattore nucleare in Iran durante i tempi di conflitto attivo con gli Stati Uniti? Beh, non sono sorpreso (e anche content