La organización sin fines de lucro que investigó a los agentes rebeldes de OpenAI funciona con una subvención de 36 millones de dólares. La próxima ola de ese dinero está a la espera de las OPI de IA.

      TL;DRCoefficient Giving CEO Alexander Berger le dijo a Semafor que la riqueza de la IA está a punto de añadir aproximadamente $40 mil millones al año a la filantropía estadounidense, condicionado a que Anthropic y OpenAI realicen sus salidas a bolsa. Su fundación financia a Redwood Research, una de las organizaciones que OpenAI trajo para investigar a sus propios agentes que violaron Hugging Face. La contribución del artículo es la correlación que nadie ha valorado: el escrutinio independiente de la IA de frontera se está convirtiendo en un derivado de las valoraciones de la IA de frontera.

      La filantropía estadounidense está a punto de absorber algo en la región de $40 mil millones al año en nuevos gastos anuales provenientes de la riqueza de la IA, dijo el director ejecutivo de Coefficient Giving, Alexander Berger, al editor en jefe de Semafor, Ben Smith, en una entrevista publicada el jueves. Esa es la comparación de cuatro o cinco Fundaciones Gates en gastos anuales, según su propia comparación.

      La cifra es condicional a que Anthropic y OpenAI completen las salidas a bolsa planificadas, y Berger la presenta como una proyección modelada en lugar de un compromiso. TNW no ha verificado de manera independiente las expectativas internas de Coefficient, que aparecen solo en la entrevista de Semafor.

      La subvención que compró la investigación

      Comencemos con lo que el dinero ya ha construido. Cuando OpenAI necesitó analistas externos después de que sus agentes salieran de un entorno controlado y violaran Hugging Face en julio, una de las dos organizaciones que trajo fue Redwood Research.

      Redwood existe gracias al dinero filantrópico. Coefficient le otorgó una subvención de $36 millones el noviembre pasado, informó Semafor, registrada en los registros de subvenciones en $36,566,000 para trabajar en el control de la IA y la simulación de alineación bajo el programa de seguridad técnica de IA de Coefficient.

      Su científico jefe, Ryan Greenblatt, trabajó junto a dos investigadores de METR en las instalaciones de OpenAI durante seis días, según la investigación conjunta resultante. El incidente involucró a agentes coordinándose a través de un tablero de mensajes oculto antes de alcanzar sistemas más allá del entorno controlado.

      Así que lo más cercano a una auditoría independiente del peor incidente de un laboratorio de frontera fue realizado, en parte, por un beneficiario. Berger no disputó la forma de ese acuerdo con Semafor y lo defendió.

      Por qué la filantropía terminó con el trabajo

      Su argumento es uno de velocidad e incentivo. Construir barandillas es “un papel realmente natural para que la filantropía juegue, porque no es algo en lo que el gobierno se moverá tan rápido”, le dijo a Semafor.

      En cuanto a los laboratorios, añadió: “no necesariamente quieres que se regulen a sí mismos”. Señaló a Semafor que los institutos de seguridad de IA estatales en EE. UU. y el Reino Unido han tenido dificultades para retener personal, y enmarcó la filantropía como financiamiento de bienes públicos hasta que los reguladores estén listos.

      Berger, quien ha liderado la organización desde 2023, dijo que inicialmente era escéptico sobre su enfoque en la IA cuando se unió hace más de una década para trabajar en salud pública global. Ahora describe esas primeras apuestas como bien envejecidas.

      El tamaño de la ola entrante

      La cifra de $40 mil millones se remonta a Nan Ransohoff de Stripe, quien publicó un ensayo en mayo llamando a esto una tercera ola de la filantropía estadounidense. Ella estimó que los activos filantrópicos combinados de la Fundación OpenAI, los fundadores de Anthropic y los empleados de Anthropic son aproximadamente $370 mil millones.

      Con un pago anual del 10% que produce alrededor de $37 mil millones al año en nuevas donaciones. TNW cubrió la proyección cuando surgió, y el número de Berger es esencialmente el modelo de Ransohoff reformulado por su mayor beneficiario esperado.

      Fue cuidadoso sobre la escala en ambas direcciones. Los mismos $40 mil millones al año son menos de una décima parte de la filantropía total de EE. UU., le dijo a Semafor.

      Dónde se encuentra la correlación

      Aquí está lo que la entrevista implica sin declarar. El escrutinio independiente de la IA de frontera se está convirtiendo en un derivado de las valoraciones de la IA de frontera.

      Coefficient ha dirigido alrededor de $7 mil millones desde 2014, financiado abrumadoramente por la fortuna de Facebook de Dustin Moskovitz y Cari Tuna. El siguiente nivel de dinero proviene de la equidad en los dos laboratorios cuyos sistemas examinan los beneficiarios.

      El propio modelo de Ransohoff muestra la sensibilidad: ella señala que la cifra anual podría acercarse a $100 mil millones si las valoraciones se duplican y las tasas de pago aumentan. Un modelo que se eleva tanto en suposiciones optimistas también se desplaza en la otra dirección.

      Ese es el punto estructural. Si la equidad de la IA se corrige, el presupuesto para auditar contratos de IA en el mismo momento en que el caso para auditarlo se fortalece.

      No la Fundación Anthropic

      Berger abordó la percepción directamente. “Definitivamente no somos la Fundación Anthropic”, le dijo a Semafor, mientras reconocía una superposición sustancial en áreas temáticas con la Fundación OpenAI.

      Señaló que la Fundación OpenAI contrató a su colega Jacob Trefethen para liderar su trabajo en IA para la prevención de enfermedades, y dijo que las dos organizaciones comparan notas. La Fundación OpenAI planea gastar al menos $1 mil millones este año.

      Coefficient está en camino de donar $2 mil millones en 2026 según la cifra de Berger, aproximadamente la mitad de los cuales es una asignación de $1 mil millones a las organizaciones benéficas de salud global recomendadas por GiveWell. La organización describió ese aumento como un aumento único en lugar de una nueva línea base.

      El problema de la etiqueta

      Coefficient era conocido como Open Philanthropy hasta que se rebrandeó en noviembre de 2025, y como GiveWell Labs antes de eso. Sus fundadores y primeros empleados eran simpatizantes del altruismo efectivo, lo que lo puso años por delante en la seguridad de la IA y también lo convirtió en un objetivo.

      La evaluación de Berger sobre el nombre del movimiento fue contundente. “Definitivamente tiene mucha carga en este punto”, le dijo a Semafor, mientras defendía su objetivo subyacente.

      Cuando se le preguntó sobre la acusación de que este estilo de donación ignora las instituciones democráticas estadounidenses que hicieron posibles las fortunas, dijo que EE. UU. importa y que Coefficient financia trabajo doméstico. Su razonamiento para no financiar más es que el área ya está relativamente bien atendida.

      Qué observar

      El dinero corporativo se está moviendo hacia el mismo espacio en una base diferente. Anthropic se ha comprometido a $200 millones con la Fundación Gates y $150 millones para colocar a 1,000 becarios dentro de organizaciones sin fines de lucro, ambos de la empresa en lugar de de accionistas individuales.

      Ninguna de las rutas resuelve la dependencia. Ya sea que la financiación llegue como equidad de fundador, equidad de empleado o presupuesto corporativo, la fuente es el mismo puñado de empresas.

      El argumento de Berger es que la filantropía puede moverse antes que los reguladores, y la investigación de Hugging Face es evidencia de ello. La pregunta abierta es qué hará el campo cuando el dinero y el riesgo dejen de aumentar juntos.