OpenAI vuole monitorare l'abuso dell'IA senza costringere i clienti a cedere i propri dati

      Il nuovo sistema di Elaborazione della Sicurezza Privata di OpenAI adotta un approccio diverso rispetto ad Anthropic, che richiede una retention di 30 giorni per alcuni modelli avanzati.

      OpenAI vuole migliorare nel riconoscere le persone che abusano dei suoi modelli di intelligenza artificiale all'avanguardia senza chiedere ai clienti attenti alla privacy di rinunciare alla Zero Data Retention. In un annuncio del 19 agosto, OpenAI ha introdotto l'Elaborazione della Sicurezza Privata, un sistema progettato per rilevare comportamenti sospetti attraverso più interazioni, preservando la ZDR per i clienti API idonei.

      OpenAI afferma che le sue attuali misure di ZDR valutano le richieste singolarmente, rendendo più difficile rilevare schemi che si estendono su diverse interazioni. L'Elaborazione della Sicurezza Privata dovrebbe colmare questa lacuna senza dare accesso ai dipendenti di OpenAI ai prompt o alle risposte sottostanti.

      Per ora, il sistema è in fase di test con i primi clienti. Axios riporta che è rivolto a clienti aziendali e API piuttosto che a singoli abbonati di ChatGPT.

      Rachit Agarwal / Digital Trends

      Come funziona l'Elaborazione della Sicurezza Privata

      Invece di ispezionare una richiesta alla volta, il sistema può cercare schemi sospetti attraverso interazioni correlate. Quando rileva un possibile abuso, OpenAI riceve un segnale limitato sull'attività piuttosto che sul contenuto sottostante del cliente.

      Con le implementazioni di Zero Data Retention, quel contenuto rimane su infrastrutture controllate dal cliente. OpenAI sta anche sviluppando un'altra configurazione in cui il contenuto crittografato può risiedere sulla propria infrastruttura mentre i clienti detengono le chiavi di crittografia. OpenAI stessa non possederebbe quelle chiavi.

      Perché Anthropic ha scelto un'altra strada

      Anthropic ha fatto un compromesso diverso. Per i suoi Modelli Coperti, i prompt e le uscite vengono conservati per 30 giorni, anche per le organizzazioni che in precedenza utilizzavano la Zero Data Retention. Anthropic afferma che questa finestra aiuta le sue misure di sicurezza a catturare attacchi che diventano evidenti solo attraverso più richieste.

      OpenAI sta cercando di risolvere lo stesso problema di sicurezza mantenendo intatta la ZDR per i clienti idonei. Per le aziende che hanno adottato la ZDR specificamente per limitare quanto a lungo un fornitore di IA può trattenere il loro contenuto, queste sono proposte materialmente diverse.

      Aerps.com / Unsplash

      Cosa lascia ancora fuori la zero retention

      L'Elaborazione della Sicurezza Privata è ancora una prima anteprima e OpenAI non ha ancora dimostrato pubblicamente di poter fornire un rilevamento degli abusi equivalente agli approcci che trattengono il contenuto dei clienti. I dettagli tecnici dietro quelle protezioni della privacy non sono ancora pubblici.

      C'è un'eccezione esplicita. OpenAI afferma che le immagini contrassegnate come potenziale materiale di abuso sessuale infantile possono ancora essere trattenute per una revisione e segnalazione manuale legalmente richieste, anche sotto Zero Data Retention.

      OpenAI prevede di iniziare a implementare l'Elaborazione della Sicurezza Privata e pubblicare un documento tecnico a settembre. Questo dovrebbe dare ai clienti un'idea molto migliore di se il monitoraggio della sicurezza tra sessioni possa funzionare senza indebolire le attuali protezioni ZDR su cui fanno affidamento.

      Paulo Vargas è un laureato in inglese diventato reporter e poi scrittore tecnico, con una carriera che è sempre tornata a…

      La connessione segreta della CIA dietro la sopravvivenza di NeXT e il ritorno di Jobs in Apple

      La CIA potrebbe aver aiutato a mantenere in vita NeXT di Steve Jobs

      Il ritorno di Steve Jobs in Apple è solitamente raccontato come una delle grandi storie di ritorno della Silicon Valley. Un nuovo racconto suggerisce che ci sia stato un altro capitolo, molto meno pubblico, che ha contribuito a renderlo possibile: una relazione classificata tra la società informatica in difficoltà di Jobs, NeXT, e la CIA. Secondo un rapporto di Sharon Weinberger sul Wall Street Journal, la CIA è diventata silenziosamente un cliente importante per NeXT alla fine degli anni '80, acquistando migliaia di workstation appositamente configurate in un momento in cui la società di Jobs aveva disperatamente bisogno di vendite. L'accordo, sostiene il rapporto, ha aiutato a mantenere a galla NeXT e ha dato a Jobs diversi anni in più per svilupparsi come leader aziendale prima che Apple lo riportasse nel 1996.

      Leggi di più

      Windows 11 sta eliminando la funzione Drag Tray

      Il fastidioso Drag Tray di Windows 11 viene finalmente rimosso

      Microsoft sta staccando la spina a uno degli esperimenti più insoliti di Windows 11 nella condivisione di file dopo che gli utenti hanno chiarito che la funzione era spesso più frustrante che utile. La funzione, chiamata Drag Tray, era progettata per offrire un modo più rapido per condividere file. Prendi un file in Esplora File, trascinalo verso la parte superiore dello schermo e apparirà un pannello flottante con collegamenti per inviarlo ad app. Semplice in teoria. Il problema era che molte persone stavano già trascinando file verso quella parte dello schermo per motivi completamente diversi.

      Leggi di più

      Google offre agli studenti un anno gratuito di AI Pro e un nuovo Gemini Student Hub

      Gemini sta ottenendo più strumenti per aiutare gli studenti a studiare, organizzare e ricercare

      Google è attualmente dietro OpenAI e Anthropic nella corsa ai modelli all'avanguardia. Il Claude Opus 5 di Anthropic e il GPT-5.6 Sol di OpenAI si posizionano entrambi davanti al Gemini 3.1 Pro su importanti benchmark indipendenti, mentre il tanto atteso Gemini 3.5 Pro di Google rimane in fase di test dopo aver apparentemente deluso gli obiettivi di prestazione interni. Mentre Google lavora per colmare quel divario, sta anche spingendo Gemini aggressivamente verso un pubblico molto diverso. Gli studenti universitari statunitensi idonei possono ora ottenere Google AI Pro gratuitamente per un intero anno, insieme a un nuovo Student Hub costruito specificamente attorno allo studio, ai corsi e alla ricerca.

      Leggi di più