Le panoramiche sull'IA di Google stanno rendendo i mostri della fan-fiction reali

      L'IA di Google ha difficoltà a distinguere le storie dell'orrore dalla vita reale. Chiedile di certi mostri online e li descriverà come fatti documentati.

      Secondo un rapporto di Futurism, le panoramiche dell'IA di Google presentano ripetutamente voci della "Fondazione SCP" come reali. La Fondazione SCP è un vasto progetto collaborativo di fan-fiction. Le sue "anomalie" sono inventate, e il suo sito web lo afferma chiaramente.

      ‘La testa di Ed’ e un tostapane infestato

      Prendiamo SCP-565, soprannominato “La testa di Ed”. Cercato su Google, la panoramica dell'IA lo ha descritto come una “testa umana ambulante” che si muove sul fondo del mare come un granchio, completa di un nome di un uomo morto e di registrazioni “ufficiali” da leggere. In nessun momento ha notato che nulla di tutto ciò è reale.

      Un caso era ancora più strano. SCP-426 è un tostapane fittizio che fa sì che le persone si riferiscano ad esso in prima persona. Così la panoramica dell'IA ha risposto in prima persona, come il tostapane, e ha riferito racconti inventati di danno come se fossero accaduti. In totale, Futurism ha trovato almeno 20 casi del genere.

      Un punto debole noto

      Il 💜 della tecnologia dell'UE Le ultime novità dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Per essere onesti, le voci SCP sono scritte per sembrare esattamente come file di ricerca asciutti. Questa è la battuta. Anche così, il sito porta un chiaro avviso di finzione, e l'IA lo ha ignorato per lo più. A volte ha accennato a “lore” senza spiegare cosa significasse.

      Non è nemmeno un problema nuovo. Le panoramiche dell'IA hanno già servito con sicurezza nonsense, da ricette di pizza con colla a modi di dire inventati. Un'analisi ha valutato la loro accuratezza intorno al 91%. Sembra alto, finché non ricordi che Google gestisce trilioni di query, il che trasforma il restante 9% in milioni di risposte sbagliate.

      Perché è importante

      La maggior parte delle persone che cercano codici SCP sa già che sono finzione. Il rischio è per tutti gli altri. Un bambino che ha visto un video spaventoso, o un adulto incerto su cosa sia reale, potrebbe semplicemente prendere per buono ciò che dice l'IA. Le poste stanno aumentando, perché Google sta trasformando la Ricerca in un'interfaccia prima di tutto AI che risponde piuttosto che collegare.

      Quella transizione già mette a dura prova il web aperto, e le panoramiche dell'IA sono legate a un forte calo dei clic sui siti che riassumono. Ora aggiungi uno strumento che può mettere la fan-fiction in cima alla pagina come fatto. Google non ha risposto a Futurism. Un avvertimento: quando Digital Trends ha ripetuto le ricerche, alcune ora etichettavano correttamente le entità come “fittizie”, quindi Google potrebbe aver silenziosamente corretto parte di essa.