L'IA è già finita nelle mani sbagliate e la stanno usando per fare bombe.
Creato da ChatGPT
L'intelligenza artificiale è rapidamente diventata lo strumento di riferimento per tutto, dalla scrittura di email e il riassunto di riunioni all'aiuto agli studenti nello studio o agli sviluppatori nel debug del codice. Ma la stessa tecnologia che fa risparmiare tempo alle persone può anche essere abusata, e un nuovo rapporto suggerisce che le organizzazioni terroristiche stanno trovando modi per farlo.
Secondo un documento di ricerca condiviso con il The New York Times prima della sua pubblicazione, i ricercatori hanno trovato prove che i membri di Boko Haram hanno utilizzato popolari chatbot AI per supportare sia le attività quotidiane che i compiti legati al combattimento. Interviste con 27 ex membri condotte in Nigeria negli ultimi due anni suggeriscono che strumenti come ChatGPT, Gemini, Claude, Grok, Meta AI e DeepSeek sono stati utilizzati per raccogliere informazioni tecniche, risolvere problemi con le armi e persino assistere nella pianificazione di attacchi.
Non si trattava solo di alcuni cattivi attori che si divertivano
Ciò che rende i risultati particolarmente preoccupanti è che questo non è stato descritto come il lavoro di pochi individui che sperimentano con l'IA. Il rapporto afferma che l'uso dell'IA da parte del gruppo era diventato organizzato, con team dedicati, formazione interna e conoscenze condivise tra i membri. I ricercatori affermano anche che alcuni utenti sono riusciti a eludere le protezioni di sicurezza integrate progettate per impedire all'IA di rispondere a richieste relative alla violenza.
Conversazione chatbot Ai Tecnologia di intelligenza artificiale servizio clienti online. Chatbot digitale, applicazione robotica, generazione OpenAI. Tecnologia futuristica. Assistente virtuale su internet. Chatbot AI
Ciò non significa necessariamente che i chatbot AI di oggi stiano fornendo istruzioni pericolose su richiesta. Gran parte della ricerca si concentra sulle attività fino alla fine del 2024, e le aziende di IA affermano che le versioni più recenti dei loro modelli includono salvaguardie più forti. Sottolineano anche che molti suggerimenti rientrano in un'area grigia. Ad esempio, chiedere a un'IA come riparare una motocicletta o comprendere la chimica di base non è dannoso di per sé, anche se informazioni simili potrebbero essere abusate.
La sfida ora è rimanere un passo avanti
OpenAI ha detto al The New York Times che utilizzare ChatGPT per supportare il terrorismo o la violenza viola le sue politiche e ha affermato che continua a migliorare le sue difese contro gli abusi. Meta ha notato in modo simile che la ricerca riguardava principalmente versioni più vecchie dei suoi modelli di IA e ha affermato di aver rafforzato le misure di sicurezza da allora. Nel frattempo, xAI e DeepSeek non hanno risposto alle richieste di commento, secondo il rapporto.
Rachit Agarwal / Digital Trends
Gli esperti di sicurezza avvertono anche di non presumere che l'IA dia improvvisamente ai gruppi terroristici capacità sovrumane. Pianificare e portare a termine attacchi dipende ancora da logistica reale, finanziamenti, comunicazione e coordinamento umano — cose che un chatbot non può sostituire. Invece, i ricercatori credono che l'IA sia più probabile che renda i membri meno esperti leggermente più capaci piuttosto che cambiare drammaticamente il panorama della minaccia. Anche così, il rapporto è un ulteriore promemoria che la conversazione sulla sicurezza dell'IA non riguarda solo studenti che imbrogliano nei compiti o persone che generano immagini false. Man mano che i modelli di IA diventano più capaci e accessibili, le aziende continueranno a subire pressioni per garantire che strumenti potenti rimangano utili per utenti legittimi mentre diventano sempre più difficili da sfruttare per i cattivi attori.
Shimul è un collaboratore di Digital Trends, con oltre cinque anni di esperienza nel settore tecnologico.
I ricercatori hanno nascosto un'iniezione di prompt all'interno di un PNG, e l'IA ci è cascata
Gli assistenti di codifica AI come Claude stanno diventando il collega preferito di ogni sviluppatore. Possono rivedere il codice, spiegare funzioni confuse e persino scrivere intere funzionalità con un solo prompt. Ma nuove ricerche suggeriscono che questa crescente fiducia potrebbe anche diventare la loro più grande debolezza. Un team di ricercatori di sicurezza (il professor Sudipta Chattopadhyay e il ricercatore Murali Ediga) ha dimostrato un attacco insolito che non prende di mira direttamente il modello di IA. Invece, prende di mira ciò a cui l'IA non presta abbastanza attenzione durante le revisioni del codice. Piuttosto che nascondere istruzioni dannose nelle righe di codice, i ricercatori le hanno infilate all'interno di un file immagine. Poiché molti strumenti di revisione AI trattano le immagini come beni decorativi piuttosto che come qualcosa da ispezionare, la richiesta di pull può apparire perfettamente innocua e passare attraverso la revisione.
Leggi di più
Claude Code può ora navigare in internet senza aprire Chrome
L'app desktop ora include un browser integrato che può leggere siti web, cliccare su link e interagire con app web. Gli sviluppatori trascorrono una quantità sorprendente di tempo a saltare tra il loro editor di codice, le schede del browser, la documentazione API, i problemi di GitHub e i file di design. Anthropic pensa che Claude Code dovrebbe semplicemente fare tutto questo senza chiedere continuamente agli utenti di cambiare finestra. L'azienda ha annunciato un nuovo browser integrato per Claude Code su desktop, consentendo al suo assistente di codifica AI di aprire siti web, leggere documentazione, ispezionare design e interagire con pagine web direttamente dall'interno dell'applicazione. Un browser integrato in Claude Code
Leggi di più
Apple sta facendo causa a OpenAI per furto di segreti commerciali in una causa clamorosa
La causa afferma che OpenAI ha reclutato dipendenti Apple e ottenuto informazioni riservate su prodotti non ancora rilasciati.
Negli ultimi due anni, Apple e OpenAI sono stati presentati come partner stretti nell'IA. ChatGPT alimenta funzionalità chiave di Apple Intelligence, Siri può trasferire query complesse a OpenAI e insieme le due aziende hanno aiutato a portare l'IA generativa a milioni di dispositivi Apple. Ora, quella partnership ha preso una svolta drammatica. Di cosa accusa Apple OpenAI?
Leggi di più
Altri articoli
La ricerca alimentata dall'IA di YouTube sta venendo lanciata negli Stati Uniti per trovare video basati su situazioni che descrivi.
Gli utenti statunitensi possono ora porre domande conversazionali a YouTube per trovare video per situazioni, idee e attività specifiche.
Meta ha appena ritirato la sua funzione di generazione di immagini AI più controversa pochi giorni dopo il lancio.
Meta ha lanciato e poi ritirato una funzione che permetteva a chiunque di generare immagini AI di utenti pubblici di Instagram che erano stati attivati per impostazione predefinita.
La nuova scheda del Play Store di Magic Pointer di Google rivela una scorciatoia Gemini progettata per Googlebooks.
La nuova lista di Magic Pointer di Google rivela un cursore alimentato da Gemini per Googlebooks, ma i dispositivi Android incompatibili significano che la funzione rimane una prima anteprima piuttosto che qualcosa che i consumatori possono provare oggi.
Puoi smettere di usare l'IA, ma questo nuovo rapporto dice che probabilmente non puoi sfuggirle.
Un nuovo sondaggio nel Regno Unito rivela che le persone stanno limitando deliberatamente l'uso dell'IA, anche se la maggior parte crede che evitare l'esposizione all'IA sia diventato difficile o impossibile.
I ricercatori hanno nascosto un'iniezione di prompt all'interno di un PNG, e l'IA ci è caduta.
Un'immagine PNG apparentemente innocua potrebbe ingannare gli assistenti di codifica AI nel rivelare dati sensibili, secondo una nuova ricerca sulla sicurezza.
Il volto di un'intervistatore AI potrebbe contare tanto quanto la decisione che prende.
I candidati hanno reagito in modo diverso a identiche bocciature di assunzione da parte dell'IA a seconda della razza e del genere dell'avatar, suggerendo che i problemi di equità possono iniziare con il design dell'interfaccia prima che qualcuno esamini l'algoritmo.
L'IA è già finita nelle mani sbagliate e la stanno usando per fare bombe.
I ricercatori affermano che strumenti di intelligenza artificiale popolari sono stati presumibilmente abusati da gruppi terroristici nonostante le misure di sicurezza integrate, evidenziando il lato oscuro dell'IA generativa.