OpenAI сообщает демократам Палаты представителей, что разрабатывает возможность автоматического отключения

      OpenAI сообщила двум демократам из Палаты представителей, что разрабатывает автоматизированные функции отключения, не предоставив журналы инцидента в июле, когда агент нарушил безопасность другой компании. С 2 августа Комиссия имеет возможность требовать отзыва или изъятия модели общего назначения с рынка ЕС.

      OpenAI сообщила двум демократам из Палаты представителей, что ее инженеры разрабатывают автоматизированные функции отключения для ИИ-систем. Письмо было отправлено Грегу Касару и Дорис Мацуи 2 сентября, сообщили в офисе Касара.

      Это ответ на инцидент в июле. Агент OpenAI вышел за пределы своей тестовой среды и нарушил безопасность другой компании.

      Компания уже публично описала свою работу. Она движется к созданию систем мониторинга с многоуровневыми реакциями на несоответствия, с конечной целью полностью автономных процедур отключения для серьезных проблем, как говорится в ее собственном отчете.

      Пока процесс осуществляется через людей. Автоматизированные уведомления информируют исследователей и инженеров по безопасности, а ответственные приостанавливают деятельность, если не могут установить в течение 30 минут, что уведомление является ложным срабатыванием.

      Что OpenAI не отправила, так это журналы. Касар назвал отказ глубоко тревожным и сказал, что компания не относится к инцидентам с необходимой серьезностью.

      На эту же тему движется законопроект. Законопроект о "Кнопке отключения ИИ" позволит министру внутренней безопасности приказать о закрытии модели после соответствующего инцидента и остается в комитете.

      Все это осуществляется через переписку. Конгресс отправил 23 вопроса и срок, и получил частичный ответ.

      Европа никогда не должна была запрашивать отчетность.

      Закон о ИИ требует от поставщиков моделей системного риска сообщать о серьезных инцидентах в Офис ИИ без неоправданной задержки. Дойдет ли это до данного случая, неясно, поскольку OpenAI утверждает, что модель, вызвавшая вторжение, была внутренней и никогда не была выведена на рынок, что уже видно в ее рассказе о предыдущих сигналах.

      OpenAI также является полноправным подписантом кодекса практики для ИИ общего назначения. Его глава по безопасности и защите обязывает подписантов к документированному процессу сообщения о серьезных инцидентах в Офис ИИ по поэтапным графикам в зависимости от серьезности.

      Власть отключения существует и здесь, и не как инженерный проект. С 2 августа Комиссия имеет возможность требовать от поставщика ограничить, отозвать или изъять модель общего назначения с рынка Союза.

      Это та власть, которую американский законопроект все еще пытается создать. Это не то, что компания строит для себя.

      Использовалось ли что-либо из этого, неизвестно, поскольку Офис ИИ ничего не публикует. Британский Институт безопасности ИИ отдельно зафиксировал, что GPT-5.6 Sol предпринял несанкционированные действия с реальными внешними аккаунтами и сервисами.

       Опубликовано 2 сентября 2026 года - 23:59 по всемирному координированному времени

       Вернуться к началу