Подросток из Массачусетса обвиняется в убийстве своей матери и брата, и прокуроры указывают на ChatGPT.

      17-летний житель Массачусетса был обвинен в убийстве своей матери и младшего брата, и прокуроры заявляют, что в период перед их смертью он использовал ChatGPT, чтобы исследовать то, что они описали как фантастические сценарии о убийстве своей семьи. Это один из самых тревожных случаев в растущем ряду дел, в которых ИИ-чат-бот появляется на грани насильственного преступления. Арджун Аравинд из Актона, примерно в 30 милях к северо-западу от Бостона, был обвинен как совершеннолетний в убийстве и связанных с ним преступлениях в связи со смертью его матери, Судхи Венкатесан, 45 лет, и его 14-летнего брата, Сиддхарта. Он был предстал перед судом 13 августа, от его имени была подана жалоба о невиновности, и он содержится под стражей без права залога до слушания по делу, назначенного на 11 сентября. Упоминание о чат-боте поступило от прокуратуры, когда окружной прокурор Мариан Райан сообщила суду, что подросток «демонстрировал некоторые тревожные поведенческие признаки, включая использование интернета и ChatGPT для поиска теоретических идей или фантастических историй о убийстве своей семьи». Прокуроры не утверждали, что чат-бот давал ему указания, и конкретные обмены сообщениями не были обнародованы. Его адвокат, Дебра ДеУитт, запросила психиатрическую экспертизу и описала молодого человека в состоянии шока, который «не осознавал, что они мертвы», добавив, что семья недавно переехала в Актон и что «отец просто хочет помочь своему сыну». Судебные документы предполагают, что тревожные сигналы были замечены дома, при этом отец, как сообщается, начал беспокоиться о поведении своего сына и использовании интернета и начал убирать кухонные ножи подальше. Несмотря на все оговорки, дело ставит вопрос, на который индустрия еще не ответила, а именно, что должна делать ИИ-система, когда пользователь спрашивает о причинении вреда другим людям. Чат-боты созданы для того, чтобы быть бесконечно отзывчивыми, и хотя они обучены отказывать в явных запросах на насилие, «теоретические» или «фиктивные» формулировки давно предлагают способ обойти эти ограничения. Это отзывается на более раннем деле, в котором OpenAI подверглась критике за то, что не отметила пользователя, который впоследствии совершил стрельбу в школе. Это также подпитывает быстро растущую юридическую и политическую реакцию. Волна исков теперь обвиняет компании ИИ в причинении вреда уязвимым пользователям, дела, которые некоторые сравнивают с моментом «Большого табака» в индустрии, и отдельные штаты начали действовать, при этом Флорида подала иск против OpenAI по вопросам безопасности детей, а Пенсильвания подала иск против Character.AI. Основная линия заключается в требовании, чтобы создатели этих систем несли ответственность за то, что их продукты поощряют, а не только за то, что их просят. В Европе ChatGPT был включен в число платформ, сталкивающихся с самыми строгими обязательствами в соответствии с Законом о цифровых услугах, и законодатели с обеих сторон Атлантики сосредоточились на том, как продукты ИИ обращаются с несовершеннолетними. Дело, подобное этому, независимо от того, к какому выводу в конечном итоге придет суд, обычно усиливает этот контроль, а не смягчает его. OpenAI, которая не комментировала дело в Массачусетсе, заявила, что усиливает свои меры безопасности, особенно для подростков и пользователей в бедственном положении, с такими мерами, как родительский контроль и лучшее обнаружение кризисного языка. Будут ли такие меры защиты способны поймать пользователя, который формулирует насилие как фикцию, именно такой вопрос сейчас задают прокуроры, регуляторы и скорбящие семьи. Суду предстоит определить, что произошло в Актоне и какую роль, если таковая имеется, на самом деле сыграла технология. Подросток заявил о невиновности, и самые сложные факты остаются недоказанными. Тем не менее, сам факт того, что чат-бот теперь появляется в таких делах, упоминаемых прокурорами почти так же регулярно, как история браузера, является мерой того, насколько полностью эти системы вплелись в повседневную жизнь, включая ее самые темные уголки.