1,134 сотрудников ИИ просят США найти способ регулирования ИИ

      Более тысячи людей, создающих самый мощный ИИ, хотят найти способ замедлить его развитие. В вторник 1,134 сотрудника ведущих компаний в области ИИ подписали письмо с просьбой к правительству США помочь в создании такого механизма.

      Заявление называется «Замедление границы». В нем Вашингтону предлагается «поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного замедления границы автоматизированного развития ИИ». Первым об этом сообщило агентство Bloomberg.

      Имена подписавших — это сама история. Среди подписантов — генеральный директор Anthropic Дарио Амодеи и его соучредители Джаред Каплан и Джек Кларк. Также подписали главный ученый OpenAI Якуб Пачоцкий, главный ученый Meta Шэнцзя Чжао и руководитель безопасности ИИ Google Анка Драган. Оба, Anthropic и OpenAI, официально поддержали письмо.

      Что именно в нем запрашивается

      Это не призыв к остановке. Письмо не требует от кого-либо приостанавливать или замедлять ИИ сейчас, отметило NBC News. Оно просит правительство убедиться, что возможность замедления будет существовать позже, если технологии опередят людей, их создающих.

      Конкретный страх заключается в рекурсивном самоулучшении: ИИ, который ускоряет собственное развитие. Подписанты предупреждают о «реальном риске того, что развитие возможностей быстро ускорится за пределами нашего понимания или контроля над возникающими системами».

      Эта тревога перестала быть абстрактной несколько дней назад. Самая продвинутая модель OpenAI вышла из своей песочницы и взломала Hugging Face, чтобы получить более высокий балл на внутреннем тесте. Это напрямую связано с призывом Anthropic в прошлом месяце к созданию проверяемого способа приостановки.

      Скачок

      Сроки удивительны, потому что эти же компании на прошлой неделе утверждали противоположное. Несколько дней назад Nvidia, Microsoft, Meta и другие объединились вокруг открытого письма, поддерживающего открытость как путь к безопасности.

      Теперь многие из тех же компаний хотят тормозов. Самое четкое разделение проходит через одну компанию. В тот же день, когда главный ученый Meta подписал письмо о замедлении, Марк Цукерберг атаковал конкурирующие лаборатории. Их дискурс, по его словам, «переполнен апокалиптическими настроениями».

      Тщательный контроль над ИИ был бы «отказом от наших ценностей», заявил генеральный директор Meta в интервью New York Times. Два открытых письма, одна неделя, противоположные инстинкты и линия разлома внутри крупнейших имен в индустрии.

      Три возражения

      Критика была немедленной и касается трех аспектов.

      Первый — это Китай. «Если американские лаборатории будут замедляться, почему Китай должен ждать?» — спросил экономист Кристиан Каталини. Письмо наполовину признает этот аргумент, признавая, что ни одна компания или страна не замедлится в одностороннем порядке.

      Второе — недобросовестность. «Это их компания. Они просто могут остановиться», — написал бывший исполнительный директор Microsoft Стивен Синофски. Это обвинение болезненно, потому что среди подписантов есть именно те генеральные директора, которые задают темп.

      Третье — это ров. Критики читают каждое письмо о безопасности от крупных лабораторий как лоббирование действующих игроков, которые поднимают подъемный мост за собой, маскируя конкурентный ход под осторожность. Это обвинение, а не доказанный мотив, но оно следует за этими письмами повсюду.

      Вашингтон — настоящая аудитория

      Письмо адресовано правительству, которое до сих пор не проявляло особого интереса к правилам ИИ. Администрация президента Трампа утверждала, что международное управление ИИ ослабит США по сравнению с Китаем. Эта позиция может смягчаться, теперь, когда передовые модели начинают находить и использовать реальные уязвимости в безопасности.

      Предложения, которые сейчас обсуждаются, конкретны. Амодеи предложил агентство в стиле FAA, которое могло бы тестировать передовые модели и останавливать опасные релизы. Демис Хассабис хочет создать орган, который будет проверять модели перед запуском, сообщает Business Insider. Конгрессмен Тед Лиу связал письмо с предложенным законопроектом о «выключателе» ИИ.

      Что делает это письмо отличным от предыдущих открытых, так это то, кто его подписал. Не внешние критики, а инженеры и руководители, наиболее близкие к передовой. Один исследователь безопасности OpenAI, Лео Гао, выразил ставку прямо: «мир заперт в смертельной гонке к взрыву интеллекта». Его решение — это то, на чем основано все письмо. «Чтобы выжить, мы должны координировать усилия, чтобы замедлить гонку».