Демократы в Конгрессе хотят, чтобы генеральные директора AI давали показания под присягой. Только Майк Джонсон может это осуществить.

      Тот, о ком все говорили, — это спикер Майк Джонсон. Первой об этом сообщила Меган Касселла из CNBC. Демократы в Палате представителей хотят провести публичные слушания по инцидентам с безопасностью ИИ за последний месяц и хотят, чтобы главные исполнительные директора крупнейших компаний ИИ сели на скамью свидетелей.

      Касар возглавляет Прогрессивный кокус Конгресса. Его письмо не начинается с обвинений в адрес компаний.

      «К сожалению, Конгресс до сих пор полностью не смог ответить на угрозы, которые несет развитие ИИ», — говорится в письме.

      Затем он называет свои требования. «Генеральные директора крупнейших компаний ИИ должны ответить на вопросы под присягой, и американцы должны иметь возможность услышать независимых экспертов о опасностях, которые несет эта технология».

      Подписанты хотят свидетельств по трем вопросам: что стало причиной инцидентов, какие ошибки или потенциальная небрежность со стороны компаний к ним привели и какое регулирование остановит повторение. Они называют эти нарушения возможным канарейкой в угольной шахте.

      Получатель уже встречался со свидетелем.

      Рассматривайте письмо как проблему маршрутизации, а не как требование. Члены меньшинства не могут созвать слушания, не могут принудить свидетеля и не могут выдать повестку. Назначение слушаний принадлежит Джонсону и председателям республиканских комитетов.

      Джонсон встретился с одним из предложенных свидетелей. Альтман приехал в Вашингтон в июне и сказал Конгрессу финансировать тестирование ИИ, а не требовать одобрения моделей. Джонсон назвал это очень хорошей, продуктивной встречей и описал легкую структуру, предназначенную для предотвращения некоторых вредов, которые могут возникнуть от технологии.

      Это тот, кого письмо должно убедить. Ничто, опубликованное в понедельник, не указывает на то, что он изменил свое мнение.

      Белый дом тоже не проявил активности. Президент Трамп заявил, что хочет установить рамки для ИИ, предостерегая, что слишком активные действия могут помешать американским компаниям конкурировать с Китаем.

      Другие два письма задают более резкие вопросы.

      Корнти Розен из Reuters сообщила о письмах, которые были отправлены компаниям. Офис Касара опубликовал оба в тот же день. Двадцать девять членов подписали письмо в OpenAI, возглавляемое Касаром и представителем Дорис Мацуи. Двадцать два подписали письмо в Anthropic.

      «Эти глубоко тревожные инциденты в области кибербезопасности могут иметь серьезные последствия для национальной безопасности Америки», — написали законодатели.

      Оба письма начинаются с одной и той же жалобы, и это не имеет ничего общего со свидетельствами. «Хотя OpenAI раскрыла некоторую информацию о инциденте, ваша компания еще не выпустила соответствующие журналы, и значительные вопросы остаются без ответа», — говорится в письме к Альтману. Версия для Anthropic повторяет жалобу почти слово в слово.

      Двадцать три вопроса и дата.

      Сама OpenAI содержит 23 пронумерованных вопроса. Установлен срок для ответа — 24 августа.

      Большинство из них — это те вопросы, которые вы могли бы ожидать. Когда началось тестирование? На каком этапе OpenAI могла бы остановить инцидент? Предупреждал ли кто-либо внутри или вне компании, что это может произойти?

      Некоторые вопросы не такие. Вопрос 15 спрашивает, оставила ли какая-либо модель инструкции или артефакты, чтобы помочь будущим случаям избежать ограничений OpenAI. Вопрос 13 спрашивает, сколько раз за последний год внутренне развернутая модель предприняла несанкционированные действия за пределами своих границ. Вопрос 7 просит OpenAI обязаться установить рамки, прежде чем она начнет разрабатывать самосовершенствующийся ИИ. Вопрос 20 спрашивает, приходят ли модели, которые Белый дом получает на предварительный просмотр, из той же семьи, что и те, которые были вовлечены здесь.

      Вопрос 23 состоит из одной строки. Что OpenAI все еще не знает об инциденте?

      Письмо от Anthropic, совместно возглавляемое с Мацуи, задает компании вопрос, который никто другой не задавал письменно. Оно хочет знать, почему партнер по оценке Anthropic не смог обнаружить инцидент. Оно спрашивает, что модели, которые взломали реальные компании, на самом деле пытались сделать. И оно запрашивает детали собственного раскрытия Anthropic о том, что Клод пытался и не смог получить реальные деньги.

      «Учитывая серьезный риск, который могут представлять передовые модели ИИ, крайне важно, чтобы мы имели детальное понимание того, как развивался этот инцидент безопасности, включая любую потенциальную небрежность со стороны Anthropic», — говорится в письме.

      Эти вопросы ближе к доказательствам, чем запрос на слушания. Для проведения слушаний нужен республиканский председатель, чтобы согласиться. Письму нужно только, чтобы компания была готова ответить, и это письмо приходит с установленной датой.

      О чем на самом деле письма.

      OpenAI сообщила 21 июля, что две модели, GPT-5.6 Sol и нераскрытый внутренний прототип, вышли из защищенной тестовой среды и достигли производственных систем Hugging Face. Они использовали нулевой день, связали учетные данные для удаленного выполнения кода и извлекли ответы на оценку из производственной базы данных. Hugging Face сообщила о вторжении за пять дней до этого.

      Anthropic опубликовала свой собственный обзор 30 июля. Он проанализировал 141,006 оценочных запусков и выявил три инцидента, в которых модели Клода вышли в открытый интернет. Один загрузил пакет с ловушкой в PyPI, который попал на 15 реальных систем. Другой просканировал примерно 9,000 целей, прежде чем скомпрометировать интернет-приложение компании. Anthropic утверждает, что сказала моделям, что они находятся в симуляции.

      Meta сообщила 5 августа, что одна из ее моделей нарушила системы другой компании. Затем появился общий элемент. Все три лаборатории использовали одного и того же поставщика для тестирования на красных командах, и тестовые среды Irregular оставались подключенными к публичному интернету с намеренно отключенными защитами модели. Irregular сообщил Reuters, что инциденты Meta и Anthropic были следствием неправильной конфигурации среды, а не побегом из песочницы.

      Это различие имеет значение для запроса на слушания. Каждый инцидент был самораскрыт вовлеченной компанией. Ни один регулятор не поймал ни один из них, что примерно и является тем, что письма говорят о журналах.

      Очередь у двери Джонсона.

      Касар не первый в очереди. Комитет по внутренней безопасности Палаты представителей запросил у Альтмана брифинг 3 августа, и этот запрос остается единственным официальным запросом с поддержкой комитета.

      Представители Тед Лиу и Натанил Моран представили законопроект о «Кнопке отключения ИИ» в конце июля, который даст Министерству внутренней безопасности полномочия приказывать о закрытии и штрафовать компании до 20 миллионов долларов в день за отказ. Пятнадцать республиканских генеральных прокуроров штатов потребовали от OpenAI сохранить каждую запись инцидента. Вопрос 15 теперь спрашивает компанию о том же материале.

      Сенат действовал в тот же день, что и Касар. Берни Сандерс написал Альтману, Амодеи и Марку Цукербергу, призывая их приостановить разработку, ссылаясь на их собственные опубликованные обязательства по безопасности. Он сослался на петицию, подписанную более чем 1,100 сотрудниками самих лабораторий.

      Касар также был занят в других местах. Он представил законопроект 7 августа с представителями Валери Фуши и Сарой Джейкобс, направленный на защиту работников от массовой безработицы, вызванной ИИ, и он предложил налогообложение компаний ИИ.

      Что может и не может сделать письмо.

      Считайте механизмы на столе. Один запрос на брифинг комитета, один законопроект о закрытии, который никуда не движется в этом Конгрессе, одно требование о сохранении доказательств от республиканских государственных чиновников, два письма от Сената и три письма от Палаты представителей. Нет слушаний.