OpenAI включает безопасность в исследования, поскольку глава безопасности уходит.

      Глава систем безопасности OpenAI, Иоганнес Хайдека, покидает компанию после внутренней реорганизации, которая объединяет команды безопасности и исследований под одним руководителем, сообщает Wired в пятницу. Главный научный сотрудник Марк Чен сообщил сотрудникам в меморандуме, что теперь команды безопасности будут подчиняться Мие Глейз, чья должность была расширена до вице-президента по исследованиям и безопасности, новой созданной роли.

      Саачи Джайн была назначена временным главой систем безопасности, пока компания ищет постоянную замену Хайдека. Это второй случай за менее чем два года, когда OpenAI интегрировала свою организацию безопасности в структуру, подчиняющуюся научному руководителю.

      Срок полномочий Хайдека

      Хайдека присоединился к OpenAI в 2021 году в качестве аналитика по безопасности ИИ и занял должность главы систем безопасности в 2024 году, сменив Лилиан Вэнг. Его работа охватывала выравнивание моделей, системы вознаграждений на основе правил и оценки готовности компании к потенциально опасным возможностям моделей.

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Чен поблагодарил Хайдека в своем письме сотрудникам, сказав, что «важно, чтобы наша работа по безопасности была интегрирована с разработкой передовых моделей, с более ранней и прямой ролью в формировании ключевых решений по моделям, продуктам и запускам». Хайдека стал последним в череде высокопрофильных специалистов по безопасности, покинувших компанию или реорганизованных за последние два года.

      Шаблон распусков

      Команда Superalignment OpenAI, объявленная в 2023 году с обещанием 20% вычислительных мощностей компании, была распущена в мае 2024 года после ухода ее сопредседателей, Ильи Сутскевера и Яна Лейке. Лейке публично написал о своем уходе, что «культура безопасности и процессы отошли на второй план по сравнению с блестящими продуктами».

      Команда готовности AGI последовала в октябре 2024 года, когда ее руководитель Майлс Брандидж ушел в отставку; команда Mission Alignment, преемник Superalignment, была распущена в феврале 2026 года после 16 месяцев работы, ее руководитель Иошуа Ачиам получил новую должность «главного футуриста». В апреле OpenAI потеряла своего главного продуктового директора, главу Sora и своего корпоративного технического директора в один день.

      Уход Хайдека происходит на фоне продолжающегося ухода более высокопрофильных руководителей. Фиджи Симо, главный по приложениям OpenAI, ушла в этом месяце, сославшись на длительное восстановление после болезни.

      Аргументы за интеграцию

      Расширенный титул Глейз сигнализирует о том, что OpenAI хочет, чтобы безопасность оставалась приоритетом даже в новой структуре. Компания запустила программу Safety Fellowship 6 апреля, приглашая внешних исследователей проводить независимую работу по безопасности и выравниванию в лаборатории.

      Заявленная логика Чена заключается в том, что интеграция безопасности в исследования дает ей место в принятии решений по моделям с самого начала, а не как финальная проверка перед запуском. Критики утверждают, что команда безопасности, подчиняющаяся исследованиям, имеет меньше структурной независимости и меньше возможностей задержать или заблокировать продукт, чем та, которая подчиняется отдельно.

      Внешнее давление

      Уход происходит на фоне усиливающегося внешнего контроля над OpenAI. Сорок два генеральных прокурора штатов открыли расследование в отношении компании, вручив повестку о рекламе, пользовательских данных и внутренних политиках вскоре после того, как она конфиденциально подала заявку на листинг на фондовом рынке.

      Лилиан Вэнг, которая занимала должность главы систем безопасности до Хайдека, затем присоединилась к Thinking Machines Labs, стартапу в области ИИ, основанному бывшим техническим директором OpenAI Мирой Мурати. Мурати с тех пор публично предупреждала, что управление ИИ отстает от возможностей моделей.