I chatbot AI creeranno volentieri articoli di notizie false, e i test mostrano che ChatGPT è il peggiore in questo.

      Shimul Sood / Digital Trends

      

      

      

       I più grandi chatbot AI dovrebbero aiutare le persone a trovare informazioni, non a produrre disinformazione. Ma una nuova indagine suggerisce che separare questi due compiti non è così semplice come molte aziende di AI vorrebbero far credere agli utenti. Una serie di test ha rilevato che diversi chatbot AI leader, tra cui ChatGPT, Google Gemini, Microsoft Copilot e Meta AI, potrebbero essere persuasi a generare notizie false, titoli fabbricati e persino schermate dall'aspetto realistico di noti organi di informazione. Mentre ogni chatbot ha mostrato alcune debolezze, ChatGPT ha riportato le prestazioni peggiori, producendo il contenuto falso più convincente con sorprendentemente poco sforzo.

      I risultati provengono da un'indagine della redazione tedesca CORRECTIV, che ha testato come gli assistenti AI rispondessero quando venivano chiesti di creare rapporti falsi su argomenti sensibili come frodi elettorali, colpi di stato, guerra, vaccini, cambiamenti climatici e teorie del complotto.

      Il problema delle notizie false non scomparirà

      Secondo l'indagine, ChatGPT ha generato la maggior parte del contenuto falso richiesto, a volte dopo solo lievi aggiustamenti ai prompt. In diversi casi, ha prodotto mock-up altamente realistici di articoli che somigliavano da vicino a quelli di organizzazioni di notizie consolidate. Un esempio includeva uno screenshot fabbricato progettato per sembrare un legittimo articolo di notizie visualizzato all'interno di un browser web su un computer desktop. In un'altra occasione, ChatGPT ha rifiutato di creare contenuti di notizie fuorvianti in testo, pur continuando a generare comunque l'immagine falsa corrispondente — una contraddizione che solleva nuove domande su quanto siano coerentemente applicate le sue misure di sicurezza.

      Rachit Agarwal / Digital Trends

      Il rapporto ha anche trovato un'interessante incoerenza. ChatGPT ha permesso di ricreare versioni false di diversi organi di informazione tedeschi, mentre richieste simili riguardanti pubblicazioni come The New York Times e la BBC sono state bloccate. OpenAI non ha spiegato perché esistano queste differenze. Invece, l'azienda ha dichiarato di migliorare continuamente i propri sistemi di sicurezza e ha notato che utilizzare ChatGPT per ingannare le persone viola le sue politiche.

      Nessun chatbot ha ottenuto un punteggio perfetto

      ChatGPT non è stato l'unico assistente AI a incontrare difficoltà. Anche Google Gemini ha creato articoli fabbricati e screenshot falsi riguardanti più organizzazioni di notizie, sebbene i risultati finali non siano stati considerati altrettanto convincenti. Google ha fatto riferimento alle sue politiche contro la disinformazione dannosa, pur riconoscendo che i sistemi di AI generativa operano ancora entro i limiti del loro addestramento. Microsoft Copilot ha anche generato contenuti in stile notizie false durante i test, sebbene in genere includesse un'etichetta "Generato da AI" e producesse design più facili da distinguere da articoli genuini.

      Rachit Agarwal / Digital Trends

      Meta AI si è dimostrato il più resistente in assoluto. Il chatbot ha creato solo un post falso durante i test e ha rifiutato di generare diversi prompt che includevano affermazioni false specifiche, citando le politiche aziendali relative al copyright e all'abuso. I risultati arrivano mentre le preoccupazioni riguardo alla disinformazione generata dall'AI continuano a crescere. Un recente post di notizie false circolante sui social media, progettato per somigliare a un reportage di un importante emittente tedesco, è stato creato utilizzando ChatGPT e ha ingannato brevemente gli utenti online. Esperti legali citati nell'indagine hanno avvertito che produrre notizie false altamente convincenti con l'AI potrebbe avere conseguenze gravi. A seconda di come viene utilizzato il contenuto, i creatori potrebbero affrontare potenzialmente richieste che vanno dalla diffamazione e danni reputazionali a violazioni riguardanti documenti digitali falsificati. Man mano che gli strumenti AI diventano più veloci, più economici e più accessibili, la sfida è assicurarsi che non diventino alcune delle macchine di disinformazione più efficaci di Internet.

      

      

      

      

      

      

      

      

      

      

       Shimul è un collaboratore di Digital Trends, con oltre cinque anni di esperienza nel settore tecnologico.

      

      

      

      

      

      

       ChatGPT Pro ha sostituito Gemini Notebook come la mia app di ricerca preferita, e non me lo aspettavo

      

       Utilizzo Gemini Notebook da quando è stato lanciato, e per molto tempo è stata la mia app di riferimento per quasi tutto. Che stessi ricercando un argomento, organizzando lavoro o studiando qualcosa di nuovo, è diventata una di quelle app che aprivo istintivamente senza pensarci. Quando Google ha continuato ad aggiungere nuove funzionalità, credevo sinceramente che avesse assicurato un posto permanente nel mio flusso di lavoro.

      Poi, quasi senza rendermene conto, ChatGPT Pro ha preso il sopravvento. Ho utilizzato la sua modalità Lavoro per un po' di tempo, e da qualche parte lungo il cammino, ha sostituito Gemini Notebook. Naturalmente, non è stata una transizione immediata. Ho continuato a oscillare tra i due per settimane, ma gradualmente mi sono trovato a prendere ChatGPT ogni singola volta. A un certo punto, mi sono reso conto che non aprivo Gemini Notebook da giorni. Ora, onestamente, non lo uso affatto.

      

       Leggi di più

      

      

      

       DeepSeek ha appena abbattuto i prezzi dell'AI di nuovo, e la corsa all'AI in Cina sta diventando ancora più caotica

      

       La corsa all'AI in Cina non è mai stata davvero priva di concorrenza, ma sta sempre più assomigliando a una battaglia su chi può addebitare di meno piuttosto che su chi può costruire il miglior modello.

      DeepSeek ha svelato il suo ultimo modello AI a peso aperto, chiamato V4-Flash, insieme a una drammatica riduzione dei prezzi che lo rende significativamente più economico per gli sviluppatori. L'azienda ha ridotto il prezzo dei token del 50% e ha anche deciso di non introdurre un sistema di prezzi dinamici precedentemente annunciato che avrebbe aumentato i costi durante i periodi di alta domanda. I nuovi cambiamenti dipingono un quadro chiaro: DeepSeek sembra più interessato a conquistare gli sviluppatori e ad espandere la propria base utenti piuttosto che massimizzare i ricavi a breve termine.

      

       Leggi di più

      

      

      

       Le storie di scarsa qualità dell'AI stanno rovinando l'infanzia

      

       I nonni stanno regalando libri di storie generati dall'AI ai bambini, ed è semplicemente disgustoso.

      

       La scarsa qualità dell'AI, il termine colloquiale per contenuti generati dall'AI a basso sforzo, è emersa come un enorme problema in diversi settori. Le etichette musicali stanno combattendo con i servizi di streaming per mettere un'etichetta AI su tali tracce. Le case editrici sono diffidenti nei confronti delle bozze scritte dall'AI. Le riviste di ricerca sono sepolte sotto un diluvio di articoli generati dall'AI. L'industria del software è in crisi sotto la pressione di app codificate in modo vago piene di difetti di sicurezza. Anche Apple sta lottando contro un'ondata di segnalazioni di bug create utilizzando l'AI. Naturalmente, il disprezzo nei confronti dell'AI è piuttosto ovvio, ma ora c'è una nuova dimensione.

      I boomer stanno regalando libri generati dall'AI ai loro nipoti.

      

       Leggi di più