Генеральный директор Anthropic не знает, попал ли Клод в иранскую школу.

      Генеральный директор Anthropic Дарио Амодеи заявил, что не знает, какую роль сыграла модель ИИ его компании Claude в ракетном ударе, в результате которого погибли около 120 детей в начальной школе в Минабе, Иран, 28 февраля. В интервью на Bloomberg’s The Circuit с Эмили Чанг он описал удар как «действительно ужасное событие», но сказал, что этот случай не нарушает политику Anthropic.

      «У нас нет доступа, мы точно не знаем, как эти модели использовались», — сказал Амодеи. «Принцип, который мы установили, и я думаю, что этот принцип был соблюден здесь, заключается в том, что окончательное решение принимает человек».

      Как Claude вписывается в цепочку уничтожения

      Центральное командование США использует платформу целеуказания с поддержкой ИИ под названием Maven Smart System, созданную Palantir по контракту с Пентагоном на сумму 1,3 миллиарда долларов. Система использует Claude и другие инструменты ИИ для генерации целей, их ранжирования по стратегической важности и помощи в сопоставлении оружия с целями.

      CENTCOM поразило 1000 целей в первые 24 часа операций против Ирана и, по сообщениям, 13 000 к 6 апреля, чуть более чем через месяц после начала кампании. Масштаб и скорость этого целеуказания являются ключевыми: Maven предназначен для сокращения времени между идентификацией цели и ее поражением.

      Удар по школе в Минабе

      Amnesty International сообщила, что начальная школа Шаджарех Тайебех в Минабе была поражена в первый день операций США в Иране, в результате чего погибли как минимум 120 детей и более 150 человек в целом. Расследования Amnesty, Human Rights Watch и нескольких новостных организаций пришли к выводу, что, вероятно, использовалась ракета «Томагавк», произведенная в США.

      Пентагон публично не взял на себя ответственность за удар, но проводит расследование инцидента. Министр обороны Пит Хегсет заявил о «тщательном расследовании» в марте, что Вашингтон Пост охарактеризовал как молчаливое признание ответственности США.

      Пробел в знаниях

      Признание Амодеи о том, что он не знает, как Claude использовался в ударе, отражает более широкую проблему. Компании ИИ продают все более мощные инструменты военным, но имеют ограниченное представление о том, как эти инструменты используются в боевых действиях.

      Хамза Чаудри из Института будущего жизни предупредил, что процессы целеуказания с использованием ИИ могут ускориться настолько, что номинальное принятие решений человеком станет не более чем «штампом». Расширенный масштаб боевых действий, по его словам, может привести к большему числу жертв.

      Человек, который создал Maven, согласен

      Джек Шанахан, отставной генерал-лейтенант ВВС, который создал проект Maven, выразил аналогичные опасения на семинаре в Стэнфордском университете на прошлой неделе. Он предупредил, что интеграция Claude в Maven Smart System может привести к «неожиданным последствиям» и размыть роль человеческого суждения.

      «Если вы принимаете больше решений, а не правильные решения, у вас может быть очень дефектный процесс принятия решений», — сказал Шанахан. «У вас может быть тысяча целей, но являются ли они правильными целями?»

      Противостояние Anthropic с Пентагоном

      Амотеи спровоцировал конфликт с администрацией Трампа в начале этого года, отказавшись разрешить использование Claude в полностью автономном оружии или массовом внутреннем наблюдении. Пентагон ответил, обозначив Anthropic как риск для цепочки поставок, и Anthropic подала иск, который все еще продолжается.

      Федеральный судья в Калифорнии заблокировал усилия Пентагона по разрыву связей с Anthropic, постановив, что это нарушает конституционные права компании. Но отдельный апелляционный суд в Вашингтоне отклонил запрос Anthropic о временной блокировке черного списка, пока дело рассматривается.

      Флаги

      Амотеи заявил, что «принцип» человеческого принятия решений был «соблюден» в ударе по Минабу, но также сказал, что не знает, какую роль сыграл Claude. Эти два утверждения трудно согласовать: если вы не знаете, как модель использовалась, вы не можете знать, был ли принцип соблюден.

      Аргумент о том, что человек принимает окончательное решение, не учитывает опасение, что ускоренное целеуказание с использованием ИИ может производить так много целей так быстро, что человеческая проверка становится формальной, а не значимой. Собственные цифры CENTCOM, 13 000 целей за пять недель, подтверждают эту озабоченность.

      Позиция Anthropic также структурно противоречива. Она провела красную линию на автономном оружии и массовом наблюдении, подала в суд на правительство за черный список, и в то же время ее ИИ встроен в платформу целеуказания, использованную для поражения 13 000 целей в кампании, которая убила детей в школе. Участвовал ли Claude в этом конкретном ударе, неизвестно, но он является частью системы, которая его произвела.