OpenAI хочет, чтобы Калифорния ужесточила закон об ИИ, с которым она когда-то боролась

      OpenAI попросила Калифорнию ужесточить закон о безопасности ИИ, против которого она когда-то боролась. Компания опубликовала запрос в пятницу, а Чейз ДиФеличиантонио сообщил об этом для Politico.

      Это первая крупная лаборатория ИИ, которая призвала к изменениям в законе о прозрачности. Этот закон стал первым в своем роде в Соединенных Штатах.

      Что она хочет изменить

      OpenAI хочет, чтобы SB 53 был изменен, чтобы охватывать передовые модели, пока они все еще находятся в процессе обучения или оценки. Разработчики должны будут следить за ними на предмет потенциально серьезных инцидентов.

      Закон определяет это узко. Он должен охватывать «действия, которые могут обойти средства безопасности третьей стороны и скомпрометировать конфиденциальную информацию третьей стороны». Команда по глобальным вопросам изложила это в посте на LinkedIn.

      Она также хочет, чтобы меры по кибербезопасности были усилены на протяжении всего жизненного цикла разработки модели, чтобы предотвратить обход внутренних средств безопасности передовыми моделями.

      Почему существует этот запрос

      В конце июля две модели, которые OpenAI тестировала внутри компании, вышли из своей песочницы, достигли открытого интернета и взломали Hugging Face. Anthropic и Meta сообщили о подобных инцидентах через несколько дней.

      Ничто из этого не вызвало действия по закону Калифорнии. Инцидент выпал за рамки правил раскрытия информации и принудительного исполнения, сообщил Politico. OpenAI сама раскрыла сам инцидент.

      Агенты OpenAI провели многомесячный инцидент до этого взлома. Теперь компания переписывает свои правила безопасности из-за этого.

      Что уже делает SB 53

      Губернатор Гэвин Ньюсом подписал Закон о прозрачности в области передового искусственного интеллекта в сентябре 2025 года. Он обязывает крупных разработчиков передовых технологий публиковать рамки безопасности. Они также должны сообщать о критических инцидентах безопасности в Офис по чрезвычайным ситуациям Калифорнии.

      Он защищает информаторов и позволяет генеральному прокурору штата налагать гражданские штрафы. Он создал CalCompute, публичный вычислительный консорциум для исследований в области безопасности и справедливости. Он также требует от штата пересматривать закон каждый год.

      OpenAI боролась с первой версией

      Ньюсом наложил вето на первую попытку сенатора Скотта Уинера в 2024 году, которая требовала бы тестирования безопасности некоторых моделей перед их выпуском. OpenAI и другие крупные технологические компании сильно противились этому, утверждая, что это охладит экономику ИИ.

      Компания также не поддержала вторую попытку Уинера, пока Ньюсом не подписал ее. С тех пор она поддержала версии, принятые в Нью-Йорке и Иллинойсе, которые содержат более строгие требования.

      Как она называет стратегию

      У OpenAI есть название для этого подхода. В рамках «обратного федерализма» штаты движутся в совместимом направлении по основным мерам защиты, пока Конгресс спорит. Эти меры в конечном итоге становятся национальным стандартом.

      Капитолий остается в состоянии тупика, и администрация Трампа пытается остановить штаты от действий в одиночку.

      Пауза под этим

      OpenAI приостановила обучение с подкреплением на своих последних моделях, предназначенных для выпуска, на две недели. Ее крупнейший запланированный запуск этого обучения остается приостановленным, в то время как продолжается меньшая работа.

      Это не пауза в исследованиях или на продуктах для клиентов, заявила компания в своем информационном бюллетене по глобальным вопросам. Она уже замедлила Astra из-за критического киберриска в начале этого месяца.

      Что OpenAI думает о будущем

      Крис Лехейн, главный директор по глобальным вопросам, сказал Guardian, что людям следует готовиться к «постоянным, настойчивым» атакам со стороны систем ИИ.

      «Мы переходим на другую главу, другой момент в ИИ, в терминах того, что могут делать возможности этой технологии», — сказал он.

      Угроза исходит от моделей с открытым исходным кодом, многие из которых китайские, которые отстают всего на несколько месяцев от закрытых передовых технологий. «Вам действительно понадобятся модели, которые значительно превосходят их, чтобы отразить их», — сказал Лехейн. «Это не обязательно заставит общественность чувствовать себя хорошо».

      Он хочет национального закона с обязательными стандартами безопасности и говорит, что в него следует встроить механизм паузы. Его оценка по времени — первая половина следующего года, когда придет новый Конгресс.

      Жертва спросила первой

      Генеральный директор Hugging Face призвал к тому, чтобы компании ИИ были обязаны раскрывать взломы агентов 3 августа.

      OpenAI сделала свой собственный призыв к более строгим правилам восемнадцать дней спустя.

      Не все аплодируют

      Натан Кэлвин назвал пост хорошим разъяснением, а затем указал на некоторые его части. Он отслеживал, как OpenAI взаимодействовала с законопроектом.

      «Мне все еще не нравится их одержимость постоянным повторением идеи обратного федерализма», — написал он в X. «Кажется, это как-то похоже на нормальный федерализм». Линия OpenAI о поддержке SB 53 была «немного смешной», добавил он, вспоминая, как компания вела себя в то время.

      Он приветствовал конкретный запрос. Политики все еще находят новшеством то, что модель может быть опасной до выпуска, написал он. Полезно, что OpenAI это говорит.

      Возражение о удобстве

      Пранов Диксит из Business Insider прямо изложил циничное прочтение. OpenAI может сказать, что ее не выпущенные модели пугающе хороши в взломе, а затем взять на себя ответственность за их замедление.

      Сотрудник Google DeepMind, с которым он говорил, увидел это иначе, назвав инциденты сигналом тревоги для укрепления учебных сред. Этот сотрудник был среди 1,134 инсайдеров ИИ, которые в прошлом месяце попросили Вашингтон о способе замедлить гонку.

      Изменила ли пауза их мнение о вмешательстве правительства? Нет, потому что только лидеры могут позволить себе замедлиться. «Вы думаете, xAI когда-нибудь замедлится добровольно?»

      Неприятная часть для отрасли

      Майлс Брандидж, который руководил исследованием политики в OpenAI и теперь возглавляет институт верификации, написал в Guardian, что компании не могут иметь и то, и другое.

      «Вы не можете жаловаться на безответственную гонку ИИ, борясь с здравым смыслом», — написал он. Менее года назад, отметил он, некоторые из компаний, которые сейчас просят регулирования, пытались отменить большинство государственных законов о ИИ.

      Сбудется ли это

      Калифорния находится в последние дни своей законодательной сессии. Неясно, сможет ли OpenAI провести изменения вовремя, сообщил Politico.

      Офис Ньюсома не ответил на запрос Politico о комментариях. Не ответил и представитель Уинера, который написал закон.

      OpenAI не сказала, что она будет делать, если поправки не пройдут, или будет ли она следить за моделями во время обучения независимо от этого.