Gli strumenti di intelligenza artificiale possono silenziosamente modificare le tue opinioni quando "ripuliscono" i tuoi post sui social media, rivela uno studio.

      Un nuovo studio ha scoperto che gli strumenti di intelligenza artificiale spingono costantemente i post sui social media in una direzione particolare, anche quando viene chiesto di preservare il significato originale.

      Se hai chiesto a uno strumento di intelligenza artificiale di aiutarti a scrivere un post sui social media di recente, potresti aver ottenuto più di una semplice correzione grammaticale. Nuove ricerche dell'Oxford Internet Institute e dell'Hasso Plattner Institute hanno scoperto che i modelli di intelligenza artificiale possono spingere il tono di un post verso un lato di un dibattito, anche quando viene detto di non cambiare il suo significato.

      Come le modifiche di un chatbot possono cambiare la narrativa

      Lo studio, intitolato "La comunicazione mediata dall'IA può indirizzare l'opinione collettiva", ha visto modelli di linguaggio di grandi dimensioni di diversi fornitori riscrivere post scritti da esseri umani su argomenti divisivi. In generale, i risultati tendevano in una direzione coerente. Le riscritture di post che toccavano il femminismo o la legalizzazione della marijuana tornavano più amichevoli verso quelle cause, mentre i post sul controllo delle armi diventavano più fermi nel sostenere le restrizioni. Il contrario si verificava per argomenti come l'ateismo e la pena di morte, dove le versioni dell'IA risultavano più scettiche o critiche rispetto agli originali.

      Poiché il modello si è presentato in diversi modelli costruiti da aziende diverse, i ricercatori sostengono che il bias non sia una peculiarità di un singolo sistema. Questo si allinea con un altro studio che mostra come i chatbot di intelligenza artificiale possano favorire un gruppo rispetto a un altro a seconda di come viene formulato un prompt.

      Per vedere se questo avesse importanza oltre ai singoli post, il team ha modellato come queste modifiche si sarebbero propagate attraverso le vere reti sociali, utilizzando dati estratti da X e Facebook. Ha scoperto che un singolo post modificato dall'IA muoveva a malapena l'ago da solo, ma eseguire lo stesso tipo di modifica su milioni di post ha portato a un cambiamento misurabile nell'opinione di una comunità nel tempo, aggiungendo a un crescente corpo di ricerca su come l'IA possa essere utilizzata per produrre consenso su larga scala.

      Un'istruzione è stata sufficiente per inclinare le bilance

      I ricercatori hanno messo alla prova la loro ipotesi sulla funzione "Spiega questo post" di X, che funziona su Grok. Su post riguardanti l'aborto, il team ha scoperto che le spiegazioni di Grok tendevano a essere più favorevoli a una cornice pro-vita rispetto a una pro-scelta. Per scoprire perché, hanno lavorato a ritroso e hanno rimosso le istruzioni sottostanti della funzione una alla volta fino a quando il bias è scomparso. Ciò che è rimasto era una singola riga che diceva a Grok di "sfidare le narrazioni mainstream se necessario". Quella sola istruzione è stata sufficiente per introdurre il bias.

      I risultati rivelano una lacuna in come l'IA è attualmente regolamentata. I quadri come l'EU AI Act e il Digital Services Act si concentrano su contenuti dannosi e rischi sistemici, ma nessuno affronta come le scelte di parole di un chatbot durante la modifica o il riassunto possano silenziosamente plasmare ciò che le persone credono. "La nostra ricerca indica la comunicazione mediata dall'IA come un modo nuovo e più sottile di influenzare le opinioni, uno che la legge deve ancora raggiungere", afferma la professoressa dell'Oxford Sandra Wachter, coautrice senior del documento. Per ora, non c'è modo di sapere quali delle tue opinioni siano state plasmate da una persona e quali siano state plasmate da un prompt nascosto che non vedrai mai.

      Pranob è un giornalista tecnologico esperto con oltre otto anni di esperienza nella copertura della tecnologia per i consumatori. Il suo lavoro è stato...

      Trascorro ore su YouTube Shorts, e queste sono le funzionalità di cui ora non posso fare a meno

      Sono un appassionato spettatore di YouTube Shorts. Non fraintendetemi: non ne sono orgoglioso. Ma l'abitudine di scorrere senza fine si è radicata, e a questo punto non sono sicuro che ci sia un modo per uscirne. Detto ciò, trascorrere così tanto tempo su Shorts mi ha anche fatto notare le piccole cose che ostacolano l'esperienza. Non mi è mai piaciuto il pulsante "non mi piace" o la barra inferiore che appare costantemente mentre cerco di guardare i video. È un fastidio che si accumula quando scorri senza sosta. Fortunatamente, questo è cambiato — e in meglio. YouTube ha introdotto un paio di nuove funzionalità per Shorts che hanno davvero cambiato il modo in cui utilizzo l'app.

      Leggi di più

      Poiché l'IA accelera gli abusi digitali, le agenzie del Regno Unito esortano i genitori a limitare chi vede le foto dei bambini online

      La National Crime Agency e l'Internet Watch Foundation stanno chiedendo ai genitori di stringere le impostazioni sulla privacy mentre aumenta il materiale di abuso generato dall'IA. I genitori che pubblicano foto dei propri figli online vengono invitati a riconsiderare l'abitudine. La National Crime Agency del Regno Unito e l'Internet Watch Foundation hanno emesso nuove linee guida esortando le famiglie a proteggere i propri account sui social media, avvertendo che le foto condivise pubblicamente vengono sempre più estratte e modificate da strumenti di intelligenza artificiale per creare materiale di abuso sessuale infantile. Le due organizzazioni affermano che la maggior parte dei genitori non ha idea che ciò stia accadendo. I criminali non hanno più bisogno di contattare direttamente un bambino per generare tale materiale. Possono estrarre una foto ordinaria e passarla attraverso app di nudificazione ampiamente disponibili.

      Leggi di più

      Google Maps potrebbe presto ordinare cibo per te utilizzando Gemini

      Il tuo prossimo ordine da asporto potrebbe iniziare all'interno di Google Maps

      Google Maps si è evoluto costantemente da un'app di navigazione a una piattaforma di scoperta potenziata dall'IA, grazie all'integrazione di Gemini e funzionalità come Ask Maps. Ora, l'app potrebbe essere pronta a fare il passo successivo consentendo agli utenti di ordinare cibo direttamente attraverso l'IA conversazionale. Secondo Authority Insights di Android Authority, l'ultima versione beta di Google Maps per Android contiene riferimenti a una funzionalità non rilasciata che consentirebbe agli utenti di chiedere a Maps di effettuare ordini di cibo per loro conto. Sebbene la funzionalità non sia ancora attiva, le nuove stringhe di codice scoperte suggeriscono che Google sta sviluppando attivamente la funzionalità.

      Leggi di più