Антропик – электронные письма Пентагона раскрывают настоящую борьбу

      В течение нескольких месяцев борьба между Anthropic и Пентагоном выглядела как спор о доступе к Claude. Документы суда, опубликованные на этой неделе, предполагают, что дело было о чем-то большем: кто решает, как американская армия использует передовой ИИ.

      Электронные письма были опубликованы во вторник в одном из исков, поданных Anthropic против Министерства обороны. Об этом впервые сообщила газета Wall Street Journal. Они отражают напряженный обмен между двумя мужчинами. Один из них — генеральный директор Anthropic Дарио Амодеи. Другой — Эмиль Майкл, заместитель министра обороны по исследованиям и инженерии.

      Красная линия

      Позиция Амодеи оставалась неизменной. Он хотел установить рамки, в рамках которых Пентагон мог бы использовать модели Anthropic. Два использования были исключены: полностью автономное оружие и внутреннее наблюдение. Это те же ограничения, которые он обозначил, когда ставил под сомнение военное использование своих моделей.

      Пентагон хотел чего-то более широкого. Он запросил, чтобы модели охватывали «все законные использования», фразу, которая оставляет много пространства.

      💜 технологий ЕС

      Последние новости из технологической сферы ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Переговоры начали портиться в январе. Майкл написал Амодеи после нескольких недель молчания. Он сказал, что «надеется, что мы ближе к тому, чтобы обсудить вашу пересмотренную точку зрения». Прямо говоря, он хотел, чтобы Anthropic сдвинулся в сторону позиции Пентагона. Вместо этого Амодеи повторил свои красные линии.

      «Просто неработоспособно»

      Майкл был прямолинеен. Рамки были «просто неработоспособны», написал он. Он предложил Anthropic «еще один шанс согласовать основные принципы» перед тем, как две стороны разойдутся. Он также отклонил линию, которую провел Амодеи. «В нашем мире нет различия между оборонительным и наступательным оружием», — написал он. Gizmodo опубликовал электронные письма из судебного дела.

      Амодеи выступил против стандарта «все законные использования». Проблема, отметил он, в том, что американское законодательство действительно допускает внутреннее наблюдение. Он сказал Майклу, что проект языка Пентагона зашел слишком далеко. Казалось, что он «полностью устраняет наши красные линии».

      На следующий день министр обороны Пит Хегсетх обозначил Anthropic как риск для цепочки поставок. Эта метка обычно применяется к компаниям, связанным с иностранными противниками. Это превратило многомесячное противостояние в судебную борьбу.

      Конфликтующий переговорщик

      Роль Майкла привлекла внимание. Финансовые отчеты показывают, что он владел акциями xAI, конкурента Anthropic, наряду с другими инвестициями в ИИ. Об этом сообщили The Guardian и ProPublica. Anthropic утверждает, что внесение в черный список было местью, а не политикой безопасности. Федеральный судья согласился с этим в конце марта. Она выдала предварительный судебный запрет.

      Она назвала этот шаг «классической незаконной местью по Первой поправке». Апелляционный суд отменил это в апреле, и дело продолжается. Спор является одной из нитей углубляющихся связей Кремниевой долины с Пентагоном.

      Почему Европе стоит следить

      Ставки выходят за пределы Вашингтона. Anthropic проверяет, может ли компания ИИ установить этические ограничения для государственного клиента и сохранить свои контракты. Этот вопрос находится в центре собственных аргументов Европы по поводу военного и наблюдательного ИИ. Законодательство ЕС по ИИ борется с теми же линиями. Это также подпитывает дебаты о суверенитете, поскольку европейские покупатели взвешивают, сколько контроля любая американская лаборатория сохраняет, как только ее модели попадают в работу по национальной безопасности.

      На данный момент Anthropic стабилизировалась. На этой неделе она преодолела свой последний конфликт с администрацией, приблизившись к соглашению о восстановлении доступа к ограниченной модели. Электронные письма показывают, насколько близки были отношения к разрыву и почему.