Le panoramiche dell'IA di Google stanno rendendo i mostri della fan-fiction reali

      L'IA di Google ha difficoltà a distinguere le storie dell'orrore dalla vita reale. Chiedile di certi mostri online e li descriverà come fatti documentati.

      Secondo un rapporto di Futurism, le panoramiche dell'IA di Google presentano ripetutamente voci dalla "Fondazione SCP" come reali. La Fondazione SCP è un vasto progetto collaborativo di fan-fiction. Le sue "anomalie" sono inventate, e il suo sito web lo afferma chiaramente.

      ‘La testa di Ed’ e un tostapane infestato

      Prendiamo SCP-565, soprannominato “La testa di Ed”. Cercato su Google, l'IA ha descritto questo come una “testa umana ambulante” che si muove sul fondo del mare come un granchio, completa di un nome di un uomo morto e di registrazioni “ufficiali” da leggere. In nessun momento ha notato che nulla di tutto ciò è reale.

      Un caso era ancora più strano. SCP-426 è un tostapane fittizio che fa sì che le persone si riferiscano ad esso in prima persona. Così l'IA ha risposto in prima persona, come il tostapane, e ha riportato racconti inventati di danni come se fossero accaduti. In totale, Futurism ha trovato almeno 20 casi del genere.

      Un punto debole noto

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris, e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Per essere equi, le voci SCP sono scritte per sembrare esattamente come file di ricerca asciutti. Questa è la battuta. Anche così, il sito porta un chiaro avviso di fiction, e l'IA lo ha ignorato per lo più. A volte ha accennato a “lore” senza spiegare cosa significasse.

      Non è nemmeno un problema nuovo. Le panoramiche dell'IA hanno già servito con sicurezza sciocchezze, da ricette di pizza con colla a modi di dire inventati. Un'analisi ha valutato la loro accuratezza intorno al 91%. Sembra alto, finché non ricordi che Google gestisce trilioni di query, il che trasforma il restante 9% in milioni di risposte sbagliate.

      Perché è importante

      La maggior parte delle persone che cercano codici SCP sa già che sono finzione. Il rischio è per tutti gli altri. Un bambino che ha visto un clip spaventoso, o un adulto incerto su cosa sia reale, potrebbe semplicemente prendere per buono ciò che dice l'IA. Le poste stanno aumentando, perché Google sta trasformando la Ricerca in un'interfaccia prima AI che risponde piuttosto che collegare.

      Quella transizione già mette a dura prova il web aperto, e le panoramiche dell'IA sono legate a un forte calo dei clic sui siti che riassumono. Ora aggiungi uno strumento che può mettere la fan-fiction in cima alla pagina come fatto. Google non ha risposto a Futurism. Una nota: quando Digital Trends ha ripetuto le ricerche, alcuni ora hanno etichettato correttamente le entità come “fittizie”, quindi Google potrebbe aver silenziosamente corretto parte di essa.