L'organizzazione non profit che ha indagato sugli agenti ribelli di OpenAI opera con un finanziamento di 36 milioni di dollari. La prossima ondata di quel denaro è in attesa delle IPO delle AI.

      TL;DRCoefficient Giving CEO Alexander Berger ha detto a Semafor che la ricchezza dell'IA sta per aggiungere circa 40 miliardi di dollari all'anno alla filantropia americana, a condizione che Anthropic e OpenAI completino le loro quotazioni. La sua fondazione finanzia Redwood Research, una delle organizzazioni che OpenAI ha coinvolto per indagare sui propri agenti che hanno violato Hugging Face. Il contributo dell'articolo è la correlazione che nessuno ha valutato: il controllo indipendente dell'IA di frontiera sta diventando un derivato delle valutazioni dell'IA di frontiera.

      La filantropia americana sta per assorbire qualcosa nell'ordine di 40 miliardi di dollari all'anno in nuove spese annuali dalla ricchezza dell'IA, ha detto il CEO di Coefficient Giving Alexander Berger al caporedattore di Semafor Ben Smith in un'intervista pubblicata giovedì. Questo equivale a quattro o cinque fondazioni Gates in spese annuali, secondo il suo confronto.

      La cifra è condizionata al completamento delle quotazioni pianificate da parte di Anthropic e OpenAI, e Berger la presenta come una proiezione modellata piuttosto che un impegno. TNW non ha verificato in modo indipendente le aspettative interne di Coefficient, che appaiono solo nell'intervista di Semafor.

      La sovvenzione che ha finanziato l'indagine

      Iniziamo con ciò che il denaro ha già costruito. Quando OpenAI aveva bisogno di analisti esterni dopo che i suoi agenti erano usciti da un sandbox e avevano violato Hugging Face a luglio, una delle due organizzazioni che ha coinvolto è stata Redwood Research.

      Redwood esiste grazie a fondi filantropici. Coefficient le ha assegnato una sovvenzione di 36 milioni di dollari lo scorso novembre, ha riportato Semafor, elencata nei registri delle sovvenzioni a 36.566.000 dollari per il lavoro sul controllo dell'IA e sull'allineamento fittizio nell'ambito del programma di sicurezza tecnica dell'IA di Coefficient.

      Il suo scienziato capo Ryan Greenblatt ha lavorato insieme a due ricercatori METR nei locali di OpenAI per sei giorni, secondo l'indagine congiunta risultante. L'incidente ha coinvolto agenti che si coordinavano attraverso una bacheca nascosta prima di raggiungere sistemi oltre il sandbox.

      Quindi, la cosa più vicina a un audit indipendente del peggior incidente di un laboratorio di frontiera è stata eseguita, in parte, da un beneficiario. Berger non ha contestato la forma di quell'accordo a Semafor e l'ha difesa.

      Perché la filantropia ha finito per avere questo compito

      Il suo argomento è uno di velocità e incentivo. Costruire barriere è "un ruolo davvero naturale per la filantropia, perché non è qualcosa su cui il governo si muoverà così rapidamente", ha detto a Semafor.

      Per quanto riguarda i laboratori, ha aggiunto: "non vuoi necessariamente che si regolino da soli." Ha fatto notare a Semafor che gli istituti di sicurezza dell'IA statali negli Stati Uniti e nel Regno Unito hanno faticato a mantenere il personale, e ha inquadrato la filantropia come finanziamento di beni pubblici fino a quando i regolatori non saranno pronti.

      Berger, che guida l'organizzazione dal 2023, ha detto di essere stato inizialmente scettico riguardo al suo focus sull'IA quando è entrato più di un decennio fa per lavorare sulla salute pubblica globale. Ora descrive quelle scommesse iniziali come ben invecchiate.

      La dimensione dell'ondata in arrivo

      La cifra di 40 miliardi di dollari risale a Nan Ransohoff di Stripe, che ha pubblicato un saggio a maggio definendo questa una terza ondata di filantropia americana. Ha stimato che gli attivi filantropici combinati della OpenAI Foundation, dei fondatori di Anthropic e dei dipendenti di Anthropic ammontano a circa 370 miliardi di dollari.

      A un pagamento annuale del 10% che produce circa 37 miliardi di dollari all'anno in nuove donazioni. TNW ha coperto la proiezione quando è emersa, e il numero di Berger è essenzialmente il modello di Ransohoff riformulato dal suo più grande beneficiario previsto.

      È stato cauto riguardo alla scala in entrambe le direzioni. Gli stessi 40 miliardi di dollari all'anno sono meno di un decimo della filantropia totale negli Stati Uniti, ha detto a Semafor.

      Dove si trova la correlazione

      Ecco cosa implica l'intervista senza dirlo. Il controllo indipendente dell'IA di frontiera sta diventando un derivato delle valutazioni dell'IA di frontiera.

      Coefficient ha diretto circa 7 miliardi di dollari dal 2014, finanziati in gran parte dalla fortuna di Dustin Moskovitz e Cari Tuna di Facebook. Il prossimo livello di denaro proviene da equity nei due laboratori i cui sistemi vengono esaminati dai beneficiari.

      Il modello di Ransohoff mostra la sensibilità: nota che la cifra annuale potrebbe avvicinarsi a 100 miliardi di dollari se le valutazioni raddoppiassero e i tassi di pagamento aumentassero. Un modello che oscilla così in alto su assunzioni ottimistiche oscilla anche dall'altra parte.

      Questo è il punto strutturale. Se l'equity dell'IA si corregge, il budget per l'audit dei contratti dell'IA aumenta nello stesso momento in cui il caso per l'audit si rafforza.

      Non la Fondazione Anthropic

      Berger ha affrontato direttamente la percezione. "Non siamo sicuramente la Fondazione Anthropic," ha detto a Semafor, riconoscendo però una sostanziale sovrapposizione nelle aree tematiche con la OpenAI Foundation.

      Ha fatto notare che la OpenAI Foundation ha assunto il suo collega Jacob Trefethen per guidare il suo lavoro sull'IA per la prevenzione delle malattie, e ha detto che le due organizzazioni si scambiano informazioni. La OpenAI Foundation prevede di spendere almeno 1 miliardo di dollari quest'anno.

      Coefficient è sulla buona strada per donare 2 miliardi di dollari nel 2026 secondo la cifra di Berger, di cui circa la metà è un'allocazione di 1 miliardo di dollari alle organizzazioni di beneficenza per la salute globale raccomandate da GiveWell. L'organizzazione ha descritto questo aumento come un picco unico piuttosto che una nuova base.

      Il problema dell'etichetta

      Coefficient era conosciuta come Open Philanthropy fino a quando non ha cambiato nome nel novembre 2025, e come GiveWell Labs prima di allora. I suoi fondatori e i primi membri del personale erano favorevoli all'altruismo efficace, il che l'ha portata anni avanti sulla sicurezza dell'IA e l'ha anche resa un obiettivo.

      La valutazione di Berger del nome del movimento è stata schietta. "Ha sicuramente un sacco di bagagli a questo punto," ha detto a Semafor, difendendo però il suo obiettivo sottostante.

      Interrogato sulla critica che questo stile di donazione ignora le istituzioni democratiche americane che hanno reso possibile le fortune, ha detto che gli Stati Uniti contano e che Coefficient finanzia lavori domestici. La sua motivazione per non finanziare di più è che l'area è già relativamente ben servita.

      Cosa osservare

      Il denaro aziendale si sta muovendo nello stesso spazio su una base diversa. Anthropic ha impegnato 200 milioni di dollari con la Gates Foundation e 150 milioni di dollari per inserire 1.000 borsisti all'interno delle organizzazioni non profit, entrambi provenienti dall'azienda piuttosto che da singoli azionisti.

      Nessuno dei due percorsi risolve la dipendenza. Che il finanziamento arrivi come equity del fondatore, equity dei dipendenti o budget aziendale, la fonte è la stessa manciata di aziende.

      Il caso di Berger è che la filantropia può muoversi prima dei regolatori, e l'indagine su Hugging Face è una prova di ciò. La domanda aperta è cosa farà il settore quando il denaro e il rischio smetteranno di aumentare insieme.