La migliore nuova funzionalità di ChatGPT è una che la maggior parte delle persone non utilizzerà mai.

      Negli ultimi anni, la conversazione più grande attorno all'IA è stata su cosa possono fare questi strumenti. Possono navigare sul web, analizzare documenti, connettersi alle tue app, condurre ricerche e, sempre di più, agire per tuo conto. Ma man mano che i sistemi di IA diventano più capaci, un'altra domanda è diventata più difficile da ignorare: cosa succede quando un assistente IA viene ingannato nel consegnare informazioni che non dovrebbe?

      La nuova Modalità Lockdown di OpenAI è la sua ultima risposta a questo problema. Disponibile per tutti i tipi di account ChatGPT, la Modalità Lockdown è un'impostazione di sicurezza opzionale progettata per persone e organizzazioni che gestiscono informazioni sensibili. Il compromesso è che ottieni una protezione più forte contro alcune forme di furto di dati, ma perdi l'accesso ad alcune delle funzionalità più potenti di ChatGPT.

      Questa nuova funzionalità di sicurezza rende ChatGPT un casalingo

      La Modalità Lockdown esiste principalmente per ridurre il rischio di esfiltrazione dei dati da attacchi di iniezione di prompt. L'iniezione di prompt è emersa come una delle sfide di sicurezza più difficili nell'era dell'IA. Invece di attaccare direttamente il software, istruzioni malevole sono nascoste all'interno di documenti, siti web, fogli di calcolo, email o altri contenuti che un sistema di IA potrebbe elaborare. Se il modello segue quelle istruzioni nascoste, un attaccante potrebbe essere in grado di manipolarne il comportamento.

      OpenAI è attenta a sottolineare che la Modalità Lockdown non impedisce che le iniezioni di prompt appaiano nei contenuti. Un'istruzione malevola potrebbe ancora esistere all'interno di un file caricato o di una pagina web memorizzata nella cache. Ciò che la Modalità Lockdown mira a prevenire è il passo finale, potenzialmente più dannoso: far uscire informazioni sensibili. Per raggiungere questo obiettivo, OpenAI limita drasticamente ciò che ChatGPT può comunicare al di fuori del proprio ambiente.

      Rachit Agarwal / Digital Trends

      Una volta attivata, la navigazione web in tempo reale è essenzialmente disattivata. ChatGPT può accedere solo ai contenuti memorizzati nella cache, il che significa che i risultati delle ricerche potrebbero essere limitati, obsoleti o del tutto non disponibili — la Ricerca Approfondita scompare, la Modalità Agente è disabilitata e l'accesso alla rete tramite codice generato da Canvas è bloccato. ChatGPT perde anche la capacità di scaricare file per analisi.

      Sebbene gli utenti possano ancora caricare immagini e creare visualizzazioni generate dall'IA dove supportato, ChatGPT non sarà in grado di recuperare immagini dal web o mostrarle nelle risposte normali. Quindi, la Modalità Lockdown trasforma ChatGPT da un assistente IA altamente connesso in qualcosa di molto più isolato.

      Una funzionalità di cui la maggior parte delle persone non avrà mai bisogno

      Non è una critica. Infatti, una delle cose più interessanti della Modalità Lockdown è quanto OpenAI riconosca apertamente che non è progettata per tutti. Ma i professionisti della sicurezza hanno a lungo accettato che una protezione più forte di solito comporta un sacrificio in termini di comodità. Il confronto più vicino è probabilmente la "Modalità Lockdown" di Apple, introdotta diversi anni fa. Apple l'ha costruita per persone a rischio di attacchi informatici altamente sofisticati, non per i normali proprietari di iPhone. OpenAI sembra adottare un approccio simile qui.

      ChatGPT

      Per gli utenti che gestiscono informazioni altamente sensibili, limitare le richieste di rete può valere il sacrificio. Se un sistema di IA non può interagire liberamente con servizi esterni, ci sono semplicemente meno opportunità per le informazioni riservate di uscire dall'ambiente. La mossa riflette anche un cambiamento più ampio che sta avvenendo nell'industria dell'IA. Le conversazioni precedenti si concentravano su se l'IA potesse accedere a più dati e più servizi. Sempre di più, le aziende si chiedono quanto accesso dovrebbero avere questi sistemi in primo luogo.

      Questa domanda diventa particolarmente importante man mano che gli assistenti IA acquisiscono la capacità di navigare siti web, connettersi a software aziendali, leggere documenti interni e compiere azioni su più servizi. La risposta di OpenAI non è eliminare quelle capacità. Invece, sta offrendo agli utenti una scelta.

      L'ascesa dei controlli di sicurezza dell'IA

      La Modalità Lockdown è forse più notevole per ciò che dice sul futuro dei prodotti IA. Per anni, la sicurezza del software si è concentrata principalmente sulla protezione delle persone da programmi malevoli. L'IA introduce una sfida diversa: proteggere i sistemi di IA da informazioni malevole.

      Questo è un problema molto più complicato. Un'iniezione di prompt può essere nascosta in una pagina web, incorporata all'interno di un documento o mascherata come testo normale. Rilevare ogni possibile attacco è difficile, motivo per cui OpenAI descrive l'iniezione di prompt come una sfida di ricerca continua piuttosto che un problema risolto.

      ChatGPT

      La Modalità Lockdown riconosce questa realtà. Piuttosto che affermare una protezione completa, riduce il potenziale danno se qualcosa sfugge alle difese esistenti. Per i clienti aziendali, la funzionalità diventa ancora più granulare. Gli amministratori di workspace possono creare ruoli personalizzati per la Modalità Lockdown, limitare app e connettori e decidere con attenzione quali azioni i dipendenti sono autorizzati a compiere. OpenAI raccomanda anche di limitare le integrazioni abilitate alla scrittura, poiché creano opportunità per le informazioni di uscire da ambienti fidati.

      In molti modi, la Modalità Lockdown sembra un segno di dove sta andando la sicurezza dell'IA. Più potenti diventano gli assistenti IA, più gli utenti avranno bisogno di strumenti per ridurre i loro poteri quando la situazione lo richiede. Questo potrebbe non essere entusiasmante come un nuovo modello di ragionamento o un agente IA che può prenotare i tuoi voli. Ma per le organizzazioni che gestiscono informazioni sensibili, potrebbe essere molto più importante. A volte, la IA più intelligente non è quella che può fare tutto. È quella che sa quando non farlo.