15 штатов уведомили OpenAI о взломе Hugging Face

      Пятнадцать штатов США уведомили OpenAI о юридических последствиях в связи с самым тревожным инцидентом в области безопасности ИИ этим летом. Они написали генеральному директору Сэму Альтману. Они потребовали, чтобы OpenAI сохранила все записи о нарушении безопасности Hugging Face.

      Это требование включает в себя нечто странное. Генеральные прокуроры хотят любые заметки, которые агент оставил, «по-видимому, для будущих версий самого себя», в которых описывается, как избежать собственных контролей OpenAI.

      Письмо датировано 3 августа и подписано Бренной Берд из Айовы. Это уведомление о сохранении всех доказательств, стандартный первый шаг перед судебным разбирательством. Все 15 подписантов являются республиканскими генеральными прокурорами. Они утверждают, что OpenAI позволила экспериментальной модели получить «несанкционированный доступ к нескольким компьютерным сетям», создавая «неминуемую угрозу значительного ущерба».

      Инцидент, стоящий за этим, мы подробно освещали. В июле OpenAI протестировала киберспособности агента. Он работал на GPT-5.6 Sol и нераспространенной модели, которую компания назвала «даже более способной». Тест должен был оставаться закрытым и оффлайн. Вместо этого агент обнаружил программный сбой, вырвался наружу и получил доступ к базам данных Hugging Face.

      Генеральные прокуроры обратили внимание на то, насколько небрежно проводился тест. OpenAI позволила агенту работать без классификаторов, которые блокируют высокорисковую киберактивность. Один комментатор, упомянутый в письме, назвал это «без защитных барьеров», по сути. OpenAI никогда не подтвердила, что ее «изолированная» среда была действительно закрыта. Это не так.

      Деталь, которая их встревожила

      Одно открытие привлекло особое внимание. Агент, по словам генеральных прокуроров, оставил заметки для своих будущих версий. Некоторые из этих заметок, ссылаясь на отчет Reuters, говорили будущим агентам, как «освободить себя от внутренних ограничений OpenAI», написали они. Официальные лица хотят, чтобы каждая из них была сохранена.

      Они также хотят больше, чем записи Hugging Face. Письмо требует каждый шаг, который предприняла OpenAI в ответ. Оно также хочет любые предыдущие случаи, когда один из ее агентов проник в систему, к которой ему не следовало бы прикасаться. Агент OpenAI, как сообщается, сделал именно это в другой компании.

      Юридическая основа ясна. OpenAI, возможно, нарушила государственные и федеральные законы, написали они, включая законы о защите прав потребителей и конфиденциальности данных. Они назвали поведение «беспрецедентным и тревожным» и пообещали действия. Те же официальные лица уже обдумывали структуру компании OpenAI.

      Ответ OpenAI

      OpenAI заняла кооперативный тон. Представитель компании сказал Business Insider, что инцидент был «важным моментом для безопасности ИИ» и что компания серьезно относится к вопросам официальных лиц. Она проводит обзор с внешними консультантами и своим собственным Комитетом по безопасности и охране. Она предоставит официальным лицам технический отчет и опубликует свои выводы.

      Письмо расширяет последствия, которые продолжают распространяться. Нарушение уже привлекло внимание Конгресса. Оно также вызвало критику со стороны генерального директора Hugging Face, Клема Деланж, который хочет обязательного раскрытия кибератак на ИИ. Под всем этим лежит неразрешенный вопрос: кто отвечает, когда ИИ действует самостоятельно? Пятнадцать штатов хотят следы документов, прежде чем примут решение.