Автономные ИИ-дроны теперь убивают людей, и назад дороги нет.
Элбит Системс
Мы все видели предупреждение о том, что ИИ может ошибаться. Для чат-бота это обычно означает изобретение факта, неправильное понимание вопроса или уверенное предоставление неправильного ответа. Если ту же технологию поместить в оружие, последствия таких ошибок могут быть совершенно иными.
Расследование New York Times подробно описало атаку российского дрона 6 июля в Запорожье, Украина, в результате которой погибли три гражданских лица, включая 19-летнего студента университета. Человеческие операторы запрограммировали дрон на движение к автозаправочной станции, но автономная ИИ-система выбрала именно тот объект, который она будет атаковать, скорее всего, баллоны с пропаном. Дрон не смог достичь этой цели и взорвался неподалеку.
Эксперт, цитируемый The Times, описал это как первый задокументированный случай, когда гражданские лица были убиты российским дроном, использующим такую систему самонаведения.
Компьютер теперь выбирает, что будет поражено
Ранее дроны с поддержкой ИИ обычно оставляли человека вовлеченным в выбор цели, предоставляя программному обеспечению обрабатывать финальный подход. Система, восстановленная из Запорожья, пошла дальше.
Обрушившееся здание в Киеве, Украина Джейд Королиук / Unsplash
Следователи обнаружили компьютер Nvidia Jetson Orin на борту, в то время как украинские чиновники заявили, что его код показал типы объектов, которые система была обучена распознавать и атаковать. Полностью автономное наведение исключает человека из этого финального процесса выбора цели.
Учебное пособие IBM 1979 года содержало предупреждение, которое сегодня кажется тревожно актуальным: «Компьютер никогда не может быть привлечен к ответственности, поэтому компьютер никогда не должен принимать управленческое решение».
Почти пять десятилетий спустя компьютерам доверяют решения, имеющие гораздо более серьезные последствия.
Кто несет ответственность, когда ИИ ошибается?
Автономное оружие не может предстать перед судом, объяснить свои рассуждения или понести наказание за ненадлежащее убийство. Человеческая ответственность не исчезает, но ее назначение становится гораздо более сложным, когда программное обеспечение принимает участие в принятии решения о наведении.
Элбит Системс
Россия также не единственная, кто стремится к этой технологии. Украина испытала полностью автономные системы против объектов хранения топлива и военной техники в оккупированном Россией Крыму, хотя бывший министр обороны Украины сообщил The Times, что эти испытания не привели к гибели гражданских лиц.
Автономные ИИ-оружия уже используются в активной войне, и гражданские лица уже погибли в результате их использования. Россия их тестирует, Украина их тестирует, и эта технология только станет более мощной. Это опасный скользкий склон, потому что как только армии начинают передавать решения о наведении программному обеспечению, вернуть эту ответственность может стать все более сложным. Обратного пути может не быть, что делает значимые ограничения на использование этих систем еще более срочными.
Другие статьи
SpaceX нанимает трейдера по природному газу для своих ракет и чипов
SpaceX создает команду по торговле природным газом для своих ракет и фабрики по производству чипов в Техасе, согласно Bloomberg. Работа не в Хьюстоне.
Устройство, предназначенное для поиска скрытых камер, может заставить вас чувствовать себя в большей безопасности, чем вы на самом деле есть.
Исследователи обнаружили, что детекторы шпионских устройств для потребителей обеспечивают лишь небольшое улучшение в обнаружении скрытых камер и трекеров, в то время как запутанные сигналы тревоги могут создать опасное ложное чувство уверенности.
Пока музыкальная индустрия переживает последствия наводнения, Доктор Дре хочет, чтобы артисты приняли ИИ.
Музыка, созданная ИИ, может заполнять интернет, но Доктор Дре не убегает от этого. Он считает, что артистам следует научиться использовать ИИ вместо этого.
Новый Xring O3 от Xiaomi производится на TSMC и предназначен для нескольких сотен тысяч телефонов.
Xiaomi’s Xring O3 будет изготовлен TSMC по 3-нм технологии для флагманского складного телефона с целевым объемом производства от 200,000 до 300,000 единиц.
UPS инвестирует более 2 миллиардов долларов в международные, медицинские и цепочки поставок.
UPS сообщает, что инвестирует более 2 миллиардов долларов в международные перевозки, здравоохранение и цепочку поставок на фоне крупнейшего сокращения сети в своей истории.
UPS инвестирует более 2 миллиардов долларов в международные, медицинские и цепочки поставок.
UPS сообщает, что инвестирует более 2 миллиардов долларов в международные перевозки, здравоохранение и цепочку поставок на фоне крупнейшего сокращения сети в своей истории.
Автономные ИИ-дроны теперь убивают людей, и назад дороги нет.
Автономный дрон с искусственным интеллектом стал причиной гибели гражданских лиц в Украине, выбрав свою собственную цель, что поднимает дебаты о оружии с ИИ на гораздо более серьезный уровень.