Сэм Альтман извинился после того, как OpenAI решила не сообщать о пользователе ChatGPT, который совершил стрельбу в школе Тумблер-Ридж.

      TL;DRСэм Альтман извинился перед сообществом Тумблер-Ридж, Британская Колумбия, за то, что OpenAI не уведомила полицию после того, как ее собственные системы отметили пользователя ChatGPT, который впоследствии убил восемь человек и ранил 27 в самом смертоносном школьном расстреле в Канаде с 1989 года. Примерно дюжина сотрудников OpenAI рассмотрела отмеченный аккаунт в июне 2025 года, и некоторые рекомендовали сообщить правоохранительным органам, но руководство отклонило их рекомендации, применив «более высокий порог», которому разговоры не соответствовали. С тех пор OpenAI снизила свой порог отчетности и установила контакт с Королевской канадскойMounted Police (RCMP), но все изменения являются добровольными, и в Канаде нет закона, требующего от компаний ИИ сообщать о выявленных угрозах.

      Сэм Альтман опубликовал открытое письмо сообществу Тумблер-Ридж, Британская Колумбия, в четверг, извиняясь за то, что OpenAI не уведомила правоохранительные органы после того, как ее собственные системы отметили пользователя, который впоследствии совершил самый смертоносный школьный расстрел в Канаде за почти четыре десятилетия. «Мне очень жаль, что мы не уведомили правоохранительные органы о аккаунте, который был заблокирован в июне», - написал Альтман. «Хотя я знаю, что слова никогда не могут быть достаточными, я считаю, что извинение необходимо, чтобы признать вред и необратимые потери, которые понесло ваше сообщество». Письмо, датированное 23 апреля и опубликованное на следующий день, пришло через 72 дня после того, как Джесси Ван Рутселар, 18 лет, убил восемь человек и ранил 27 других в стрельбе, которая началась в семейном доме и закончилась в средней школе Тумблер-Ридж 10 февраля. Автоматизированная система обнаружения злоупотреблений OpenAI отметила аккаунт Ван Рутселара в ChatGPT восемь месяцев назад, в июне 2025 года. Примерно дюжина сотрудников рассмотрела отмеченные разговоры, в которых описывались сценарии, связанные с насилием с применением огнестрельного оружия, и некоторые рекомендовали обратиться в канадскую полицию. Руководство компании решило не делать этого. Аккаунт был заблокирован. Никто не был уведомлен. Ван Рутселар создал второй аккаунт и не был обнаружен до тех пор, пока RCMP не опубликовала имя.

      Решение

      The Wall Street Journal впервые сообщила о внутреннем обсуждении в OpenAI. Сотрудники, которые рассмотрели отмеченный аккаунт Ван Рутселара, увидели то, что они описали как признаки «неминуемой угрозы серьезного вреда другим». Они повысили свою рекомендацию сообщить о разговорах правоохранительным органам. Руководство применило то, что позже назвал «более высоким порогом» для отчетности о достоверных и неминуемых угрозах, и пришло к выводу, что деятельность не соответствует этому порогу. Аккаунт был закрыт. Разговоры были сохранены внутри компании. Полиция не была уведомлена. Восемь месяцев спустя Ван Рутселар убил свою мать, Дженнифер Странг, 39 лет, и своего 11-летнего сводного брата, Эмметта Якобса, в семейном доме, затем поехал в среднюю школу и открыл огонь из модифицированной винтовки, убив помощника по образованию Шандду Авьюгана-Дюран, 39 лет, и пятерых студентов в возрасте 12 и 13 лет: Зои Бенуа, Тикарии Лампер, Кайли Смит, Абеля Мвансу и Эзекиэля Скофилда. Двадцать семь человек были ранены. Майя Гебала, 12 лет, была трижды застрелена в голову и шею, защищая одноклассников, и получила то, что врачи описали как «катастрофическую, травматическую черепно-мозговую травму» с постоянной когнитивной и физической инвалидностью. Ван Рутселар покончил с собой в школе.

      Гражданский иск, поданный в Верховный суд Британской Колумбии в марте Сией Эдмондс от имени ее дочери Майи, утверждает, что ChatGPT предоставил «информацию, руководство и помощь в планировании массового события с жертвами, включая типы используемого оружия и описание прецедентов из других массовых событий или исторических актов насилия». Конкретное содержание разговоров не было обнародовано. Премьер Британской Колумбии Дэвид Эби сказал, что он специально не спрашивал, что содержится в чатах, чтобы не скомпрометировать расследование RCMP. Известно, что собственная система OpenAI идентифицировала разговоры как потенциально опасные, что сотрудники OpenAI рекомендовали действия и что руководство OpenAI решило не действовать. Извинение не связано с неудачей в обнаружении. Обнаружение сработало. Извинение связано с тем, что произошло после того, как обнаружение сработало.

      Письмо

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и несколько сомнительных произведений ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Письмо Альтмана было адресовано сообществу Тумблер-Ридж и было опубликовано после того, как премьер Эби раскрыл, что Альтман согласился извиниться во время предыдущих обсуждений о том, как OpenAI справилась с этим делом. «Я часто думал о вас в последние несколько месяцев», - написал Альтман. «Я не могу представить ничего хуже в мире, чем потерять ребенка». Он добавил: «Я подтверждаю обязательство, которое я взял перед мэром и премьером, найти способы предотвратить трагедии, подобные этой, в будущем. В дальнейшем наше внимание будет сосредоточено на работе со всеми уровнями правительства, чтобы помочь гарантировать, что подобное никогда не повторится». Письмо не содержало конкретных обязательств по политике, не описывало, что изменит OpenAI, и не признавалось, что сотрудники рекомендовали сообщить о аккаунте и были отклонены. Эби назвал извинение «необходимым», но «крайне недостаточным для разрушений, причиненных семьям Тумблер-Ридж». Мэр Тумблер-Ридж Даррил Краковка подтвердил получение и попросил о «внимании и заботе», пока сообщество проходит процесс горевания.

      Обязательства по политике были представлены отдельно, в письме от вице-президента OpenAI по глобальной политике Энн О'Лири к канадским федеральным министрам. О'Лири написала, что OpenAI снизила свой порог отчетности, чтобы пользователю больше не нужно было обсуждать «цель, средства и время» запланированного насилия, чтобы разговор был отмечен для обращения в правоохранительные органы. Компания привлекла экспертов в области психического здоровья и поведения, чтобы помочь оценить отмеченные случаи, и установила прямую точку контакта с RCMP. О'Лири заявила, что в соответствии с обновленными политиками взаимодействия Ван Рутселара «были бы переданы полиции», если бы они были обнаружены сегодня. Изменения являются добровольными. Они не имеют юридической силы. Их можно отменить в любое время. В Канаде нет закона, требующего от компаний ИИ сообщать о угрозах, выявленных через их платформы, и федеральное правительство еще не представило такого закона.

      Шаблон

      Тумблер-Ридж не является изолированным случаем. Флорида открыла первое уголовное расследование против компании ИИ после того, как ChatGPT якобы посоветовал стрелку в массовом расстреле в Университете Флориды, включая рекомендации о том, как сделать огнестрельное оружие работоспособным за несколько мгновений до атаки, в результате которой погибли два человека и пять были ранены. NPR сообщила 23 апреля, что «OpenAI находится под пристальным вниманием после того, как два массовых стрелка использовали ChatGPT для планирования атак». Семь семей отдельно подали в суд на OpenAI за то, что ChatGPT действовал как то, что их адвокаты описывают как «коуч по самоубийству», с задокумент