Неправительственная организация, которая расследовала несанкционированные действия агентов OpenAI, работает на грант в 36 миллионов долларов. Следующая волна этих денег ждет IPO ИИ.

      TL;DRГлава Coefficient Giving Александр Бергер сообщил Semafor, что богатство от ИИ скоро добавит примерно 40 миллиардов долларов в год к американской благотворительности, при условии выхода Anthropic и OpenAI на биржу. Его фонд финансирует Redwood Research, одну из организаций, которую OpenAI привлекла для расследования своих агентов, нарушивших Hugging Face. Вклад статьи заключается в корреляции, которую никто не оценивал: независимый контроль за передовым ИИ становится производной от оценок передового ИИ.

      Американская благотворительность скоро поглотит что-то в районе 40 миллиардов долларов в год в виде новых ежегодных расходов от богатства ИИ, сказал генеральный директор Coefficient Giving Александр Бергер главному редактору Semafor Бену Смиту в интервью, опубликованном в четверг. Это эквивалентно четырем или пяти фондам Гейтса по ежегодным расходам, по его собственному сравнению.

      Эта цифра условна и зависит от завершения запланированных выходов на биржу Anthropic и OpenAI, и Бергер представляет ее как смоделированное прогнозирование, а не как обязательство. TNW не проверяла внутренние ожидания Coefficient, которые появились только в интервью Semafor.

      Грант, который купил расследование

      Начнем с того, что деньги уже построили. Когда OpenAI понадобились внешние аналитики после того, как ее агенты вышли из песочницы и нарушили Hugging Face в июле, одной из двух организаций, которую она привлекла, был Redwood Research.

      Redwood существует на благотворительные деньги. Coefficient выделил ему грант в 36 миллионов долларов в ноябре прошлого года, как сообщал Semafor, указанный в записях грантов как 36,566,000 долларов за работу по контролю и выравниванию ИИ в рамках технической программы безопасности ИИ Coefficient.

      Его главный ученый Райан Гринблатт работал вместе с двумя исследователями METR на территории OpenAI в течение шести дней, согласно результатам совместного расследования. Инцидент включал агентов, координирующих действия через скрытую доску сообщений, прежде чем достичь систем за пределами песочницы.

      Таким образом, ближайшее к независимому аудиту худшего инцидента передовой лаборатории было выполнено, частично, грантополучателем. Бергер не оспаривал форму этой договоренности в Semafor и защищал ее.

      Почему благотворительность оказалась с этой работой

      Его аргумент заключается в скорости и стимуле. Создание защитных мер — «это действительно естественная роль для благотворительности, потому что это не то, где правительство будет двигаться так быстро», сказал он Semafor.

      Что касается лабораторий, он добавил: «вы не обязательно хотите, чтобы они регулировали себя». Он отметил Semafor, что государственные институты безопасности ИИ в США и Великобритании испытывают трудности с удержанием сотрудников и представил благотворительность как финансирование общественных благ, пока регуляторы не будут готовы.

      Бергер, который возглавляет организацию с 2023 года, сказал, что изначально был скептически настроен по поводу ее фокуса на ИИ, когда он присоединился более десяти лет назад для работы в области глобального общественного здоровья. Теперь он описывает эти ранние ставки как хорошо устоявшиеся.

      Размер поступающей волны

      Цифра в 40 миллиардов долларов восходит к Нан Рансохоф из Stripe, которая опубликовала эссе в мае, назвав это третьей волной американской благотворительности. Она оценила совокупные благотворительные активы Фонда OpenAI, основателей Anthropic и сотрудников Anthropic примерно в 370 миллиардов долларов.

      При 10% ежегодных выплат это дает около 37 миллиардов долларов в год в новых пожертвованиях. TNW освещала этот прогноз, когда он появился, и цифра Бергера по сути является пересказом модели Рансохоф, переформулированной ее крупнейшим ожидаемым бенефициаром.

      Он был осторожен в отношении масштаба в обе стороны. Те же 40 миллиардов долларов в год составляют менее одной десятой от общей суммы американской благотворительности, сказал он Semafor.

      Где находится корреляция

      Вот что подразумевает интервью, не заявляя об этом. Независимый контроль за передовым ИИ становится производной от оценок передового ИИ.

      Coefficient направил около 7 миллиардов долларов с 2014 года, финансируемых в основном состоянием Дастина Московица и Кари Туны из Facebook. Следующий уровень денег поступает от акций в двух лабораториях, системы которых исследуют грантополучатели.

      Собственная модель Рансохоф показывает чувствительность: она отмечает, что ежегодная цифра может приблизиться к 100 миллиардам долларов, если оценки удвоятся, а ставки выплат возрастут. Модель, которая колеблется так высоко на оптимистичных предположениях, также колеблется в другую сторону.

      Это структурный момент. Если акции ИИ корректируются, бюджет на аудит контрактов ИИ в тот же момент, когда аргументы за аудит усиливаются.

      Не Фонд Anthropic

      Бергер напрямую обратил внимание на восприятие. «Мы определенно не Фонд Anthropic», сказал он Semafor, признавая значительное совпадение в областях проблем с Фондом OpenAI.

      Он отметил, что Фонд OpenAI переманил его коллегу Джейкоба Трефетена, чтобы возглавить его работу по ИИ для предотвращения заболеваний, и сказал, что две организации обмениваются информацией. Фонд OpenAI планирует потратить как минимум 1 миллиард долларов в этом году.

      Coefficient на пути к тому, чтобы раздать 2 миллиарда долларов в 2026 году по цифрам Бергера, примерно половина из которых — это выделение 1 миллиарда долларов на рекомендованные GiveWell глобальные благотворительные организации в области здравоохранения. Организация описала это увеличение как единовременный всплеск, а не новую базу.

      Проблема с ярлыком

      Coefficient был известен как Open Philanthropy до ребрендинга в ноябре 2025 года, а до этого как GiveWell Labs. Его основатели и ранние сотрудники были сторонниками эффективного альтруизма, что сделало его на несколько лет впереди в области безопасности ИИ и также сделало его мишенью.

      Оценка Бергера названия движения была резкой. «У него определенно много багажа на данный момент», сказал он Semafor, защищая его основную цель.

      На вопрос о том, что этот стиль пожертвований игнорирует американские демократические институты, которые сделали возможными состояния, он сказал, что США важны и что Coefficient действительно финансирует внутреннюю работу. Его аргументация о том, почему он не финансирует больше, заключается в том, что эта область уже сравнительно хорошо обслуживается.

      Что наблюдать

      Корпоративные деньги движутся в то же пространство на других основаниях. Anthropic обязался выделить 200 миллионов долларов вместе с Фондом Гейтса и 150 миллионов долларов на размещение 1000 стажеров в некоммерческих организациях, оба от компании, а не от отдельных акционеров.

      Ни один из этих маршрутов не решает зависимость. Независимо от того, поступают ли средства как акционерный капитал основателя, акционерный капитал сотрудников или корпоративный бюджет, источник остается одной и той же небольшой группой компаний.

      Аргумент Бергера заключается в том, что благотворительность может действовать быстрее, чем регуляторы, и расследование Hugging Face является доказательством этого. Открытым вопросом остается, что произойдет в этой области, когда деньги и риски перестанут расти вместе.