Grok помог поразить 2,000 целей в Иране. Теперь его загрязнение — это «национальная безопасность».

      Пентагон утверждает, что Grok помог поразить 2000 целей за 96 часов, и что загрязняющая электростанция, стоящая за этим, является вопросом первостепенной национальной безопасности. Эти два утверждения должны находиться в одном предложении, и в этом проблема.

      Признание не пришло в пресс-релизе или брифинге Пентагона, оно было сделано в заявлении, поданном в федеральный суд в Миссисипи, в деле о загрязнении воздуха. Там, защищая xAI Илона Маска от иска по Закону о чистом воздухе, главный цифровой и искусственный интеллект Пентагона изложил предложение, которое должно остановить любого, кто его прочитает.

      Чат-бот, известный как Grok, написал он, помог запустить более 2000 боеприпасов по 2000 различным целям в Иране в течение 96 часов, и его дальнейшая работа является вопросом первостепенной национальной безопасности.

      Прочтите это еще раз, потому что место имеет значение. Государственный чиновник раскрыл, что продукт потребительского ИИ использовался для бомбардировки страны, не для того, чтобы проинформировать общественность, а чтобы поддерживать работу дата-центра. Целеполагание и турбины пришли в одном и том же аффидевите, потому что, по версии администрации, это один и тот же аргумент: Grok важен для войны, война важна для нации, следовательно, электростанцию, которая питает Grok, нельзя отключать, независимо от того, что говорит закон о ее разрешениях.

      Это момент, когда две проблемы с военным ИИ перестают быть отдельными. Первая заключается в том, что чат-бот, созданный для ответов на вопросы в социальной сети, теперь подключен к механизмам, которые убивают людей. Вторая заключается в том, что человек, владеющий этим чат-ботом, также находится внутри правительства и решает, как его использовать. Каждая из этих проблем сама по себе вызывает тревогу.

      Вместе они описывают систему, в которой меры предосторожности, которые мы обычно ожидаем — юридические, экологические, этические — все сгибаются в сторону удобства одной компании и одного человека.

      Начнем с чат-бота. Grok является, согласно подаче, одним из всего четырех ИИ-моделей, которые Пентагон считает способными поддерживать приложения национальной безопасности, и одним из трех, допущенных к критически важной работе в условиях строгой секретности.

      Он интегрируется в Maven Smart System Национального геопространственного разведывательного агентства, ИИ-управляемую панель, которая отображает разведывательные данные, чтобы помочь чиновникам решить, что атаковать. Официальная линия успокаивающа в своей формулировке: ИИ не создает цели, он определяет интересные точки для анализа людьми. Люди, как нам говорят, остаются в курсе.

      Цепочка не спасла детей Минба. 28 февраля, в первой волне ударов, крылатая ракета "Томагавк" попала в школу для девочек Шаджара Таиебех в иранском городе, убив множество людей, более ста из которых были детьми по большинству подсчетов, в том, что наблюдатели назвали самым смертоносным единичным гражданским инцидентом конфликта.

      Предварительное расследование американских военных пришло к выводу, что американские силы, вероятно, несут ответственность, и что удар основывался на устаревшей разведке: координаты цели были составлены из устаревших данных, переданных через систему, никогда не перепроверенных с актуальной картой. Школа оставалась школой все это время.

      Вот в чем проблема, когда ИИ оказывается рядом с целеполаганием, и это не имеет ничего общего с тем, тянет ли спусковой крючок машина. Опасность более тонка и труднее поддается законодательству. ИИ-панель, которая ранжирует интересные точки и сопоставляет им оружие, не устраняет человеческое суждение, а скорее отмывает его.

      Аналитик видит уверенный интерфейс, чистый вывод, цель, которую система уже удостоила номера, и естественная человеческая реакция — доверять этому. Автоматизированный уклон не является ошибкой в этих системах; это предсказуемый результат создания чего-то, что выглядит авторитетно. Когда исходные данные неверны, интерфейс делает ошибку похожей на строгость вплоть до того момента, как ракета приземляется.

      Теперь добавьте вторую проблему, ту, которую подача в Миссисипи делает невозможно игнорировать. Иск был подан NAACP, которая утверждает, что xAI использует десятки газовых турбин для питания своих дата-центров без разрешений, требуемых Законом о чистом воздухе, в деле, сосредоточенном на объекте в Саутхейвене, штат Миссисипи, где группа насчитала 27 незарегистрированных турбин, расположенных рядом с домами, школами и церквями в преимущественно чернокожем сообществе.

      Мемфис, где работает суперкомпьютер Colossus xAI, занял второе место в стране по количеству посещений отделений неотложной помощи по поводу астмы в 2024 году. Это люди, которые вдыхают выхлопные газы вычислений.

      Ответ правительства на их иск заключался не в защите разрешений, которых не существует, а в том, чтобы утверждать, что загрязнение жизненно важно для войны. Министерство юстиции вмешалось, чтобы попросить судью отклонить дело, на том основании, что отключение турбин "серьезно" повредит Пентагону.

      Дата-центры, написал чиновник, хорошо расположены для обеспечения критического увеличения энергетических мощностей в случае вооруженного конфликта. Национальная безопасность, другими словами, стала универсальным растворителем: она растворяет экологическое законодательство, она растворяет возражения семей, находящихся под ветром, и делает это в интересах незарегистрированной инфраструктуры частной компании.

      Вот где конфликт интересов перестает быть абстрактным. Маск не является поставщиком на расстоянии от государства. Он занимает уникальное положение внутри этой администрации, и его компании вплели себя в ее аппарат безопасности: Grok xAI в секретных сетях, спутники SpaceX передают данные, интересы одного и того же человека как на стороне продажи, так и на стороне покупки сделки.

      Когда правительство утверждает, что Grok незаменим, а его электростанция недоступна, оно выступает в защиту коммерческих интересов инсайдера. Утверждение о национальной безопасности и бизнес-интерес указывают в одном и том же направлении, каждый раз, и в комнате нет никого, чья работа заключается в том, чтобы это заметить.

      Контраст с тем, как эта администрация относилась к более осторожной компании, не может быть резче. Когда Anthropic отказалась позволить использовать свою модель Claude для внутреннего наблюдения или полностью автономного оружия, Пентагон обозначил ее как риск для цепочки поставок, ярлык, обычно зарезервированный для иностранных противников, и теперь компания находится в судебных разбирательствах по этому поводу.

      Урок, который рынок только что усвоил, очевиден. Настаивайте на мерах предосторожности, и вы — угроза национальной безопасности. Запускайте незарегистрированные турбины и позволяйте вашему чат-боту помогать бомбить школу, и вы — актив национальной безопасности. Ориентированная на безопасность компания попадает в черный список; податливая — ее загрязнение переклассифицируется как патриотизм.

      Некоторые в Конгрессе увидели очертания этого. Сенатор Кирстен Гиллибранд представила Закон о безопасном и подотчетном военном ИИ, который оставит за людьми контроль над решениями с высокими последствиями и полностью запретит использование ИИ для ядерного, внутреннего наблюдения и автономного оружия.

      "Самые критически важные решения, касающиеся нашей национальной безопасности и жизни наших военнослужащих, должны всегда приниматься людьми, а не неподотчетными машинами", — сказала она.

      Это правильный инстинкт. Это также, судя по данным из Минба, неполный инстинкт, потому что опасность никогда не заключалась только в полностью автономной машине. Это человек, который доверяет уверенному экрану, и компания, которая получает прибыль, независимо от того, прав ли экран или нет.

      Мы пришли в нечто действительно новое, и мы пришли случайно, через иск о загрязнении. Тот же продукт, который отвечает на вопросы о футбольных матчах и публикует шут