ИИ затмевает ядерное оружие на саммите по обороне Диалога Шангри-Ла

      TL;DRНа диалоге Шангри-Ла в Сингапуре высокопоставленные военные чиновники предупредили, что ИИ сжимает процесс принятия решений на поле боя быстрее, чем люди могут обрабатывать информацию, затмевая ядерное оружие как доминирующую стратегическую проблему. Украина и конфликт США с Ираном были приведены в качестве живых примеров того, как ИИ уже формирует боевые операции. Опасности искусственного интеллекта затмили ядерное оружие как центральную проблему на панели стратегической стабильности во время диалога Шангри-Ла в Сингапуре, где высокопоставленные военные чиновники предупреждали, что системы, управляемые ИИ, сокращают время, доступное для человеческого принятия решений в конфликте. Ежегодный саммит по вопросам обороны, который проходил с 29 по 31 мая, собрал министров обороны и военных руководителей из Индо-Тихоокеанского региона и других стран. Генерал-лейтенант Науман Закрия, командующий 1 корпусом и командованием ракетных войск армии Пакистана, охарактеризовал угрозу в терминах цикла OODA, военного цикла принятия решений: наблюдать, ориентироваться, решать и действовать. ИИ сжимает этот цикл до такой степени, что создается туман, в котором «человек не может оценить ситуацию достаточно быстро», сказал он. «Люди будут действовать иррационально, и действия будут экстремальными». Уже на поле боя Предупреждения не были теоретическими. Генерал Онно Эйхельсхейм, начальник обороны Нидерландов, отметил, что ИИ уже появился в активных боевых действиях. Украинские силы развернули системы ИИ, чтобы предугадывать атаки России и координировать операции дронов на линии фронта, используя машинное обучение, обученное на годах боевых видеозаписей, чтобы идентифицировать цели и адаптироваться к контрмероприятиям в реальном времени. Соединенные Штаты также признали использование инструментов ИИ при планировании ударов по иранским целям. Пентагон подтвердил, что военнослужащие использовали «современные инструменты ИИ», чтобы просеивать данные и принимать более быстрые решения по целям во время операции Epic Fury, которая поразила более 13 000 целей с момента ее начала. 💜 технологий ЕС Последние новости из сферы технологий ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! «ИИ представляет собой огромный риск эскалации. Я думаю, это очевидно», — сказал Эйхельсхейм. «Но я не наивен. Он будет использоваться в этой области. Он уже используется». Предупреждение МККК Миряна Спольярич, президент Международного комитета Красного Креста и единственный участник панели, не связанный с обороной, предложила самое резкое оценивание гуманитарного риска ИИ. Она предупредила, что, хотя технологии имеют потенциал улучшить жизни, они значительно увеличивают опасность войны на практике. «Мы не знаем, где будет нажата на курок», — сказала Спольярич. «Это может быть за тысячи километров. Поэтому, хотя у ИИ есть потенциал для защиты гражданских лиц, то, что мы видим в данный момент, — это только негативная сторона». МККК давно утверждает, что автономные системы оружия должны сохранять значимый человеческий контроль над решениями по целям, позиция, которая становится все более актуальной по мере того, как системы, поддерживаемые ИИ, переходят от экспериментальных программ к активному развертыванию. Ни одна крупная военная держава не взяла на себя обязательства по обязательным ограничениям на автономное оружие, несмотря на годы обсуждений на Конвенции ООН по определенным обычным видам оружия. Позиции Китая по ядерному оружию и ИИ Ядерное оружие все еще обсуждалось. Генерал-майор НОАК Мэн Сяньцин подтвердил политику Китая о ненанесении первого удара и предложил, чтобы все пять признанных государств с ядерным оружием согласовали взаимный договор о ненанесении первого удара. «Если мы сможем это сделать, мы сможем снизить риск и дополнительно повысить стратегическую стабильность», — сказал он. Китай также призвал к международным правилам, регулирующим военное использование ИИ, включая в конечном итоге обязательные правовые рамки. Но его собственная позиция по автономному оружию остается неоднозначной. Пекин опубликовал документ о регулировании военного ИИ, в котором не упоминается о запрете на летальные автономные системы оружия, и НОАК активно инвестирует в военные возможности, поддерживаемые ИИ. Проблема сжатия Нить, проходящая через панель, заключалась не в том, что ИИ сам по себе является по своей сути опасным, а в том, что его скорость создает структурную проблему для управления конфликтами. Традиционная сдерживающая стратегия предполагает, что принимающие решения имеют время для оценки информации, консультаций с союзниками и взвешивания последствий перед действием. Системы, поддерживаемые ИИ, могут идентифицировать цели, рекомендовать ответы и выполнять операции быстрее, чем любой процесс надзора человека может функционировать. Это сжатие имеет наибольшее значение в моменты эскалации. Если ИИ-системы одной стороны обнаруживают исходящую угрозу и рекомендуют немедленный ответ, принимающий решение может иметь секунды, а не минуты или часы, чтобы оценить, является ли оценка угрозы точной. Военные аналитики предупреждали на протяжении многих лет, что эта динамика может превратить просчеты в полномасштабные конфликты, прежде чем кто-либо успеет вмешаться. Диалог Шангри-Ла не привел к новым соглашениям или обязательствам по военному ИИ, и усилия по установлению правовых рамок для управления ИИ остаются фрагментированными по юрисдикциям. Но тот факт, что панель, по сути, посвященная стратегической стабильности, традиционно обсуждаемая в контексте ядерной позиции и противоракетной обороны, провела большую часть своего времени на искусственном интеллекте, отражает сдвиг в том, что оборонительные учреждения мира теперь считают самой актуальной угрозой международной безопасности. Вопрос больше не в том, будет ли ИИ использоваться в войне. Вопрос в том, сохранят ли люди достаточно контроля над ним, чтобы предотвратить катастрофические ошибки.