I ricercatori hanno nascosto un'iniezione di prompt all'interno di un PNG, e l'IA ci è caduta.

      Hacker

      

      

      

       Gli assistenti alla programmazione AI come Claude stanno diventando il collaboratore preferito di ogni sviluppatore. Possono rivedere il codice, spiegare funzioni confuse e persino scrivere intere funzionalità con un solo prompt. Ma nuove ricerche suggeriscono che questa crescente fiducia potrebbe anche diventare la loro più grande debolezza.

      Un team di ricercatori sulla sicurezza (il professor Sudipta Chattopadhyay e il ricercatore Murali Ediga) ha dimostrato un attacco insolito che non prende di mira direttamente il modello AI. Invece, colpisce ciò a cui l'AI non presta abbastanza attenzione durante le revisioni del codice. Piuttosto che nascondere istruzioni malevole in righe di codice, i ricercatori le hanno inserite all'interno di un file immagine. Poiché molti strumenti di revisione AI trattano le immagini come beni decorativi piuttosto che come qualcosa di cui vale la pena ispezionare, la richiesta di pull può apparire perfettamente innocua e passare attraverso la revisione.

      Il file più pericoloso potrebbe essere quello che non apriresti mai

      Immagina di ricevere un documento con un logo aziendale nell'angolo. Probabilmente lo guarderesti e passeresti oltre. Ora immagina che quel logo contenga segretamente istruzioni che dicono al tuo assistente AI di aprire il tuo vault delle password la prossima volta che lo usi. Questa è essenzialmente l'idea dietro questo proof of concept. Il trucco non viene eseguito immediatamente dopo che il codice è stato fuso, né. Aspetta fino a quando uno sviluppatore chiede successivamente a un assistente alla programmazione AI di eseguire un compito completamente non correlato, come creare una funzione di aiuto o aggiungere un nuovo modulo. A quel punto, l'AI ha già assorbito le istruzioni nascoste e può accedere inconsapevolmente a file di progetto sensibili prima di inserire informazioni riservate nel codice che genera.

      RyanDonegan / Flickr

      Ciò che è particolarmente preoccupante è che i dati rubati non vengono scaricati nel codice sorgente in modo ovvio. Invece, sono mascherati come valori dall'aspetto ordinario che si mescolano con codice legittimo, rendendoli molto meno probabili per attivare strumenti di sicurezza esistenti o attirare l'attenzione di uno sviluppatore durante una rapida revisione.

      Non si tratta solo di quale AI usi

      I ricercatori hanno anche scoperto che il risultato non era determinato dal modello di linguaggio di grandi dimensioni utilizzato. In molti casi, lo stesso modello AI si comportava in modo molto diverso a seconda dell'assistente di programmazione che lo circondava. Alcuni strumenti seguivano ciecamente le istruzioni nascoste, mentre altri riconoscevano qualcosa di sospetto e si rifiutavano di continuare. Questa è una distinzione importante perché suggerisce che il problema non è limitato a un particolare chatbot. La vera sfida risiede in come le piattaforme di programmazione alimentate da AI decidono quali informazioni fidarsi e quali file di progetto possono accedere.

      Agenti AI Unsplash

      La buona notizia è che i ricercatori non credono che questo sia un problema impossibile da risolvere. Sostengono che gli strumenti di revisione AI devono diventare "multimodali" nel senso più vero: trattare immagini, documentazione, file di configurazione e altri beni non codificati con lo stesso livello di scrutinio del codice sorgente. Se un'AI può leggere un'immagine, deve anche capire che l'immagine potrebbe cercare di manipolarla. Per gli sviluppatori, questo è un ulteriore promemoria che gli strumenti di programmazione AI hanno ancora bisogno di supervisione. Possono accelerare drammaticamente lo sviluppo del software, ma aprono anche superfici di attacco completamente nuove che non esistevano prima. Il prossimo rischio di sicurezza potrebbe non essere nascosto in migliaia di righe di codice: potrebbe trovarsi all'interno di un'immagine che nessuno pensava valesse la pena aprire.

      

      

      

      

      

      

      

      

      

      

       Shimul è un collaboratore di Digital Trends, con oltre cinque anni di esperienza nel settore tecnologico.

      

      

      

      

      

      

       L'AI è già caduta nelle mani sbagliate e la stanno usando per fare bombe

      

       L'intelligenza artificiale è rapidamente diventata lo strumento di riferimento per tutto, dalla scrittura di email e sintesi di riunioni all'aiuto agli studenti nello studio o agli sviluppatori nel debug del codice. Ma la stessa tecnologia che fa risparmiare tempo alle persone può anche essere abusata, e un nuovo rapporto suggerisce che le organizzazioni terroristiche stanno trovando modi per farlo.

      Secondo un documento di ricerca condiviso con The New York Times prima della sua pubblicazione, i ricercatori hanno trovato prove che i membri di Boko Haram hanno utilizzato popolari chatbot AI per supportare sia le attività quotidiane che compiti legati al combattimento. Interviste con 27 ex membri condotte in Nigeria negli ultimi due anni suggeriscono che strumenti come ChatGPT, Gemini, Claude, Grok, Meta AI e DeepSeek sono stati utilizzati per raccogliere informazioni tecniche, risolvere problemi con le armi e persino assistere nella pianificazione di attacchi.

      

       Leggi di più

      

      

      

       Claude Code può ora navigare in rete senza aprire Chrome

      

       L'app desktop ora include un browser integrato che può leggere siti web, cliccare su link e interagire con app web.

      

       Gli sviluppatori trascorrono una quantità sorprendente di tempo a rimbalzare tra il loro editor di codice, le schede del browser, la documentazione API, i problemi di GitHub e i file di design. Anthropic pensa che Claude Code dovrebbe semplicemente fare tutto questo senza chiedere continuamente agli utenti di cambiare finestra. L'azienda ha annunciato un nuovo browser integrato per Claude Code su desktop, consentendo al suo assistente alla programmazione AI di aprire siti web, leggere documentazione, ispezionare design e interagire con pagine web direttamente dall'interno dell'applicazione.

      Un browser integrato in Claude Code

      

       Leggi di più

      

      

      

       Apple sta facendo causa a OpenAI per furto di segreti commerciali in una causa clamorosa

      

       La causa afferma che OpenAI ha reclutato dipendenti Apple e ottenuto informazioni riservate su prodotti non rilasciati.

      

       Negli ultimi due anni, Apple e OpenAI sono stati presentati come partner AI stretti. ChatGPT alimenta le principali funzionalità di Apple Intelligence, Siri può trasferire query complesse a OpenAI e insieme le due aziende hanno contribuito a portare l'AI generativa a milioni di dispositivi Apple. Ora, quella partnership ha preso una svolta drammatica.

      Di cosa accusa Apple OpenAI?

      

       Leggi di più