Tutto non va bene con DuckDuckGo e la sua intelligenza artificiale.

      Una campagna coordinata su Reddit sembra aver ingannato più assistenti di ricerca AI nel diffondere informazioni false.

      DuckDuckGo ha costruito la sua reputazione su una ricerca incentrata sulla privacy, ma questa settimana, il suo assistente AI è finito nei guai per un motivo completamente diverso. Apparentemente, Duck.ai ha affermato con sicurezza che il presidente degli Stati Uniti Donald Trump era morto di rabbia all'inizio di questo mese, completo di dettagli fabbricati su Vicepresidente JD Vance, Robert F. Kennedy Jr. e falsi rapporti di notizie a sostegno. Niente di tutto ciò era vero.

      Una falsa campagna su Reddit è riuscita a ingannare l'AI di Duck

      Secondo Futurism, la risposta bizzarra non era il risultato di una singola allucinazione. Invece, sembra essere stata innescata da una campagna coordinata di disinformazione originata dalla comunità r/poisonai di Reddit, dove gli utenti pubblicano deliberatamente storie false assurde progettate per "avvelenare" i modelli di ricerca AI. In questo caso, i membri hanno inondato Internet con affermazioni fabbricate secondo cui JD Vance era morto di rabbia prima che Donald Trump presumibilmente cedesse alla stessa malattia, creando persino articoli di notizie falsi e falsificando siti web di notizie locali per rafforzare la narrazione.

      L'AI Search di DuckDuckGo / Futurism

      Duck.ai non era l'unica vittima. Futurism ha anche scoperto che l'AI di Brave Search ha ripetuto affermazioni false simili prima di correggersi. Nel frattempo, DuckDuckGo ha riconosciuto l'errore su Reddit con una risposta ironica: "Ok, siamo stati beffati su questo." L'azienda ha dichiarato che il problema era stato risolto e ha aggiunto che Search Assist era stato "deliberatamente ingannato", promettendo miglioramenti per gestire meglio attacchi simili in futuro.

      Il rapporto nota anche che la storia falsa ha guadagnato credibilità perché la ricerca AI ha citato un sito web fabbricato che si spacciava per un legittimo outlet di notizie locali, che a sua volta sembrava essere stato generato utilizzando AI e assemblato dalla stessa bufala di Reddit. In altre parole, l'AI non stava semplicemente inventando cose. Stava ripetendo con sicurezza informazioni errate che erano state piantate deliberatamente in rete.

      Questo riguarda meno DuckDuckGo e più il futuro della ricerca AI

      La cosa divertente è che questo non è realmente un problema di DuckDuckGo. È un problema di ricerca AI. Gli assistenti AI moderni si basano sempre più su informazioni raccolte da tutto il web, e se abbastanza contenuti falsi vengono pubblicati in abbastanza posti, quei sistemi possono iniziare a trattare la finzione come fatto.

      Unsplash

      Questo è ciò che rende questo incidente così preoccupante. Abbiamo passato anni a preoccuparci delle allucinazioni dell'AI che generano risposte dal nulla, ma tentativi coordinati di avvelenare la ricerca AI potrebbero rivelarsi ancora più pericolosi. Se attori malintenzionati possono manipolare ciò che i modelli AI "imparano" semplicemente inondando Internet con disinformazione convincente, allora migliorare l'AI non riguarda più solo la costruzione di modelli più intelligenti. Si tratta di costruire sistemi che sappiano chi e cosa dovrebbero fidarsi.

      Varun è un giornalista e redattore tecnologico esperto con oltre otto anni nel settore dei media tecnologici per i consumatori. Il suo lavoro spazia...

      La tua prossima batteria EV potrebbe iniziare la vita come una bottiglia d'acqua di plastica

      I ricercatori della Penn State hanno trovato un modo per trasformare la plastica PET scartata in grafite di grado batteria.

      Le bottiglie di plastica di solito vengono riciclate in prodotti di valore inferiore, sepolte in discariche o, peggio, inquinano l'ambiente. Ma i ricercatori della Penn State University credono che un giorno potrebbero alimentare veicoli elettrici, smartphone e persino sistemi di stoccaggio di energia rinnovabile dopo aver scoperto un modo per convertire la plastica scartata in grafite di alta qualità per batterie.

      Trasformare i rifiuti di plastica in grafite di grado batteria

      Leggi di più

      L'AI più potente di Anthropic sta tornando, ma solo per pochi selezionati

      Il governo degli Stati Uniti ha approvato il ritorno limitato di Mythos 5 mentre Fable 5 si avvicina a un rilascio più ampio.

      Le restrizioni sull'AI di Anthropic potrebbero finalmente iniziare a sciogliersi. Dopo essere stata costretta offline all'inizio di questo mese a causa di preoccupazioni di sicurezza del governo degli Stati Uniti, i modelli di AI più avanzati dell'azienda stanno lentamente tornando. Secondo un nuovo rapporto di Axios, Anthropic ha già ripristinato Mythos 5 per un numero limitato di utenti fidati, mentre Fable 5 potrebbe tornare già la prossima settimana se i colloqui in corso con le agenzie federali continuano a progredire.

      Mythos torna per primo, mentre Fable aspetta in attesa

      Leggi di più

      Gli scienziati di Stanford hanno costruito un'AI che può progettare hamburger più sani e verdi

      Il nuovo sistema bilancia nutrizione, gusto, costo e impatto ambientale per creare ricette migliori.

      L'intelligenza artificiale ha già aiutato a scrivere codice, scoprire farmaci e generare video. Ora, sta cercando di fare un hamburger migliore. I ricercatori della Stanford University hanno svelato BurgerAI, un nuovo sistema AI che progetta ricette di hamburger bilanciando gusto, nutrizione, sostenibilità e costo. La parte sorprendente? Nei test di assaggio alla cieca, i commensali hanno gradito alcuni degli hamburger creati dall'AI tanto quanto, e in alcuni casi più di, un popolare hamburger da fast food.

      BurgerAI è progettato per inventare ricette, non per copiarle

      Leggi di più