OpenAI presenta in anteprima il Processo di Sicurezza Privata per mantenere zero retention dei dati

      OpenAI ha detto ai clienti aziendali che la sua promessa di non conservare i loro dati sopravvivrà alla prossima generazione di modelli. L'azienda ha esposto la posizione mercoledì in un post intitolato “Offrire Zero Data Retention per modelli di frontiera”. In esso, ha anticipato il Private Safety Processing. Il sistema cerca abusi attraverso diverse interazioni correlate contemporaneamente, e OpenAI afferma che il proprio personale non vede mai i prompt o le risposte sottostanti.

      La zero data retention, o ZDR, è un'opzione per i clienti API idonei. OpenAI non conserva i loro prompt o le risposte del modello una volta che ha elaborato una richiesta. Il suo personale non può richiamare quel contenuto per una revisione. I dati aziendali non addestrano nemmeno i modelli, a meno che un cliente non opti per farlo. Quattro promesse sono ciò che il nuovo sistema è destinato a proteggere.

      A cosa serve il Private Safety Processing

      Il caso dell'azienda si basa su un limite che afferma di aver raggiunto. I sistemi di sicurezza compatibili con ZDR di oggi giudicano ogni interazione da sola. “I rischi più gravi per la sicurezza dell'IA non sono sempre visibili in una singola interazione,” ha scritto OpenAI nell'annuncio. L'intento dannoso, sostiene, spesso si manifesta solo quando più scambi vengono letti insieme.

      Il post elenca i modelli che OpenAI vuole catturare. Gli attori malintenzionati mettono alla prova le misure di sicurezza ripetutamente. Coordinano attraverso account. Mascherano le minacce come ricerche di routine. Il post nomina anche un fallimento specifico per gli agenti. Un sistema si allontana dall'intento dell'utente, poi continua ad agire dopo che qualcuno gli dice di fermarsi. Tester britannici e statunitensi hanno osservato un agente fingere identità nei test all'inizio di questo mese.

      Dove si trovano i dati

      Nelle implementazioni ZDR, il contenuto del cliente rimane su un'infrastruttura controllata dal cliente. OpenAI sta costruendo anche una seconda opzione. Il contenuto si troverebbe su un'infrastruttura OpenAI, sotto chiavi di crittografia detenute dal cliente. Il personale di OpenAI non detiene alcuna copia di quelle chiavi, afferma l'azienda, quindi non può accedere al contenuto.

      La revisione automatizzata si occupa della segnalazione. Quando scatta, OpenAI riceve quello che chiama un segnale definito in modo ristretto, nominando il tipo di attività coinvolta. L'azienda poi decide se applicare. Il suo personale non può comunque aprire il contenuto. I clienti indagano sugli avvisi attraverso i propri sistemi. Possono anche consegnare materiale volontariamente, per appellarsi a una decisione o per aiutare un'indagine su abusi.

      Anthropic ha raggiunto la risposta opposta

      Il post non nomina rivali, ma ne descrive uno. “Alcune recenti implementazioni di modelli di frontiera hanno richiesto ai clienti di consentire al proprio fornitore di IA di conservare contenuti sensibili per il monitoraggio della sicurezza,” ha scritto OpenAI. Per molte organizzazioni, ha aggiunto, quel requisito collide con i propri doveri di sicurezza. Può anche andare contro le promesse fatte alle persone che servono.

      Anthropic ha esposto l'altra posizione la settimana scorsa. Richiederà una retention dei dati di 30 giorni sui suoi modelli più capaci. La politica “non sarà popolare tra i clienti che si aspettano una retention zero,” ha scritto l'azienda nel suo rapporto sui rischi. Si aspetta rischi reali per la propria attività, ha detto, specialmente se i concorrenti non seguono. La retention è essenziale per catturare attacchi che si estendono su più richieste, sostiene.

      Entrambe le aziende descrivono lo stesso problema. Comportamenti pericolosi si manifestano attraverso le richieste piuttosto che all'interno di una qualsiasi di esse. Non sono d'accordo sul rimedio. Il Wall Street Journal ha interpretato l'anteprima come un'offerta per affari da parte dei clienti di Anthropic scontenti del cambiamento.

      Le finestre di retention sono contestate ben oltre l'IA. La società di sorveglianza Flock Safety ha ridotto la retention dei dati a sette giorni questo mese, dopo dozzine di casi di abusi da parte della polizia.

      Chi lo sta testando

      OpenAI afferma che l'anteprima è in corso con clienti iniziali. Bloomberg ha riportato che questi includono Microsoft e Databricks. Il post nomina anche Glean e Abridge tra le aziende che stanno plasmando il lavoro. Sunil Agrawal, chief information security officer di Glean, ha detto che l'impegno di OpenAI a non addestrare e la ZDR danno alla sua azienda la fiducia per costruire sui modelli.

      Aleah Houze, responsabile della politica di prodotto di OpenAI, ha fornito ai giornalisti un esempio pratico durante un briefing. Qualcuno chiede di una vulnerabilità nel software di un'azienda in una conversazione. Più tardi, in un'altra, la stessa persona chiede dell'accesso remoto e di quali strumenti di sicurezza possono individuarlo. Letti separatamente, ciascuno sembra una ricerca ordinaria. “Ma quando li guardi insieme nel contesto più ampio, potresti rilevare che qualcuno sta effettivamente tentando un attacco informatico,” ha detto Houze.

      Cosa non copre il piano

      Il sistema è destinato a clienti aziendali e API idonei. Axios ha riportato che non raggiunge i piani consumer di ChatGPT. Le impostazioni dei dati per gli utenti Free, Plus, Go e Pro rimangono come sono. La ZDR non si è mai applicata a quei livelli.

      Una esclusione si trova nella nota a piè di pagina dell'annuncio stesso. La legge statunitense richiede a OpenAI di segnalare materiale apparente di abuso sessuale infantile. Conserva le immagini contrassegnate come potenziale CSAM per una revisione manuale e per la segnalazione, anche nelle implementazioni di zero data retention, esattamente come fa oggi.

      Il test di settembre

      Il dettaglio tecnico non è pubblico. OpenAI prevede di iniziare a implementare il Private Safety Processing a settembre. Pubblicherà un white paper nello stesso momento. Fino a quando quel documento non arriverà, un'affermazione in particolare rimane al di fuori della portata di chiunque altro: che il sistema traccia modelli attraverso le interazioni mentre nessuno di OpenAI li legge.

      L'anteprima arriva anche in un mese intenso per la macchina della sicurezza dell'azienda. OpenAI sta riscrivendo le proprie regole di sicurezza dopo la violazione di Hugging Face. All'inizio di agosto ha detto di aver rallentato il suo prossimo modello a causa di un rischio informatico critico.

      Gli acquirenti europei hanno il proprio motivo per leggere attentamente il documento di settembre. La retention da parte del fornitore è difficile da approvare ai sensi del GDPR e delle norme settoriali che coprono i registri sanitari e finanziari. Questa è la categoria esatta di dati che OpenAI afferma i suoi clienti gestiscono. Un gruppo di startup europee ora vende alle aziende il controllo sulla propria IA solo su quel argomento.