L'AI slop sta falsificando avvistamenti di uccelli rari e danneggiando la scienza

      Un uccello raro è apparso nel Brasile centrale, o così sembrava. Una foto sulla piattaforma di fauna selvatica iNaturalist mostrava un uccello nero con ali rosse. Quella specie nordamericana non era mai apparsa in quella parte del Brasile. Sarebbe stata una prima nota.

      Non era reale. L'uccello nella foto originale era un oriole con epaulette, una specie locale comune. Il fotografo aveva chiesto a uno strumento di intelligenza artificiale di far sembrare l'immagine "migliore". Il software ha aggiunto utilmente caratteristiche di un uccello diverso.

      Il problema con "migliorare l'aspetto"

      Quel caso si trova al centro di un avvertimento da parte dei ricercatori, pubblicato come commento in Nature Ecology & Evolution. Dicono che l'IA generativa sta iniziando a inquinare i registri della scienza dei cittadini. Quegli avvistamenti crowdsourced dicono agli scienziati dove vivono le specie e come si muovono.

      Ci sono due modi in cui ciò avviene. Il più raro è la falsificazione totale, immagini generate da zero e spacciate per reali. Quello più comune è più sottile. Un ornitologo chiede all'IA di rimuovere un ramo o di mettere a fuoco un'immagine sfocata. Il modello poi ricostruisce l'uccello, cancellando i segni di campo che lo identificano.

      I ricercatori dicono di aver già trovato diverse centinaia di immagini sospette, diffuse tra la Macaulay Library, iNaturalist e WikiAves del Brasile. Il numero vero è sconosciuto, perché molte sfuggono all'attenzione.

      Perché i registri sono importanti

      Queste piattaforme non sono solo gallerie per hobbisti. iNaturalist da solo detiene più di 610 milioni di immagini. Gli scienziati le analizzano per tracciare come la fauna selvatica risponde a un clima in riscaldamento.

      "Le persone comuni stanno pubblicando informazioni che uno scienziato probabilmente non potrebbe mai ottenere su larga scala," ha detto Tony Iwane di iNaturalist, coautore dell'articolo. Ha definito la rete "quasi come un sensore di ciò che sta accadendo sulla Terra in tempo reale." Il suo appunto: le informazioni devono essere accurate.

      Fornisci dati errati e le inferenze vanno male. Un singolo avvistamento inventato dall'IA può suggerire che una specie ha cambiato il suo areale quando in realtà non lo ha fatto. C'è anche un secondo costo. Le immagini manipolate utilizzate per addestrare gli strumenti di identificazione dell'IA possono degradarli silenziosamente.

      Il disordine incontra la natura

      Le frodi totali sono di solito facili da individuare. "Nessuno ci casca per un avvistamento di tucano in Siberia," ha detto il Dr. Alexander Lees al Guardian. L'ecologo dell'Università Metropolitana di Manchester ha guidato l'articolo e afferma che le modifiche silenziose sono il vero pericolo.

      Lees l'ha messa in modo diretto: una grande parte delle foto di fauna selvatica che ora vede su Facebook sono semplicemente generate dall'IA. È lo stesso disordine dell'IA che inonda il resto del web. Qui, però, corrompe un record scientifico, non un feed. Gli stessi strumenti che ricreano un obiettivo che non è mai stato filmato possono evocare un uccello che non è mai esistito.

      Resistere

      Le piattaforme stanno iniziando a rispondere. iNaturalist ora consente agli utenti di segnalare le immagini in due modi. Una segnalazione completamente generata dall'IA nasconde l'immagine. Una segnalazione eccessivamente manipolata la riduce a un grado "informale", in modo che non raggiunga mai i database di ricerca.

      Finora solo circa 1.400 delle sue 610 milioni di immagini portano un'etichetta di IA. Circa 600 sono contrassegnate come completamente generate. Questo è rassicurante o un segno di quanto stia sfuggendo, a seconda di come lo si legge. La rilevazione è difficile, come ha scoperto Meta con il suo stesso rilevatore di immagini IA.

      I ricercatori vogliono strumenti più forti: controlli di autenticazione delle immagini e verifica dei metadati. Soprattutto vogliono educazione, affinché gli ornitologi imparino che "migliorare" una foto può compromettere la scienza. La lezione più ampia è familiare da ogni angolo di internet che l'IA ha toccato. Una volta che le falsificazioni sono abbastanza buone, la fiducia diventa la risorsa scarsa.