Meta уведомит родителей о чатах подростков о самоповреждении с ИИ

      Meta начнет уведомлять родителей, когда подросток обсуждает суицид или самоповреждение с чат-ботом Meta AI. Компания объявила об этом изменении в блоге в четверг.

      Уведомления отправляются родителям, использующим инструменты надзора в Instagram. Они уже доступны в США, Великобритании, Австралии и Канаде, сообщает TechCrunch. Остальные страны получат их к концу года.

      Как работают уведомления

      Meta утверждает, что создала специальную AI-систему для этого. Она обнаруживает чаты, в которых подросток явно упоминает о том, чтобы навредить себе. Каждое отмеченное сообщение проверяет человек, прежде чем отправить уведомление. Если намерение неясно, Meta говорит, что будет действовать с осторожностью и все равно уведомит родителя.

      Уведомление не будет содержать точное сообщение, сообщает CNET. Вместо этого родители получают уведомление и советы, написанные экспертами, о том, как поднять эту тему. Это основано на более ранних инструментах. К ним относятся уведомления по поисковым запросам в Instagram и функция, показывающая темы, которые подросток обсуждает с Meta AI.

      Службы экстренной помощи и более строгие настройки

      Meta также разрабатывает способ уведомления служб экстренной помощи. Это сработает, когда чат предполагает, что кто-то, взрослый или подросток, находится в непосредственной опасности. Meta уже делает это для публикаций на Facebook и Instagram и сделала более 19,000 таких направлений в прошлом году.

      Ее более строгая настройка «Ограниченный контент» теперь также охватывает Meta AI. При включении этой функции чат-бот отклоняет более широкий спектр запросов. Meta AI уже обучен избегать сексуальных, романтических или связанных с алкоголем разговоров с подростками.

      Похвалили и сомневаются

      Meta говорит, что опиралась на более чем 75 клиницистов. Ларри Магид из некоммерческой организации ConnectSafely поддержал этот подход как баланс между конфиденциальностью подростков и осведомленностью родителей.

      Другие были насторожены. Изменение является «шагом в правильном направлении, но… должно восприниматься с недоверием», сказал адвокат Fairplay Брендан Буффар в интервью Mashable. Такие уведомления рискуют стать «пустыми словами», добавил клинический эксперт доктор Джон Акерман, если они не будут простыми в использовании и не приведут к реальным действиям.

      Давление является юридическим, так же как и этическим. Meta проиграла два судебных дела по вопросам безопасности детей и зависимости от социальных сетей в этом году и обжалует оба. OpenAI добавила свои собственные меры защиты для подростков, от функции «Доверенный контакт» до напоминаний о перерывах.

      Широкая оценка безопасности

      Этот шаг происходит в загруженную неделю для безопасности AI. Исследование Совета по надзору Meta было опубликовано в тот же день. Оно показало, что крупные модели от Meta, Anthropic и OpenAI чаще отказывались критиковать ограничительные режимы, чем разрешающие, сообщает Associated Press. Примеры варьировались от Китая до Саудовской Аравии. Это рискует «продлить длинную руку ограничительных правительств через границы», говорится в отчете.

      Тем временем Google отклонил отчет Common Sense Media, который оценил его AI Search как «неприемлемый риск» для детей, сообщает Digital Trends. Google заявил, что тесты использовали искусственные поисковые запросы, которые он не мог воспроизвести.

      Все это присоединяется к более широкой волне проверки. Канада ужесточила правила для чат-ботов и несовершеннолетних, а Ofcom проводит расследование TikTok. Австралия ввела ограничения на социальные сети для подростков, а Китай ужесточил контроль за AI-компаньонами.

      Это чувствительная тема. Если вы или кто-то, кого вы знаете, испытываете трудности, помощь доступна. В США позвоните или отправьте сообщение на номер 988. В других странах вы можете найти местную горячую линию на findahelpline.com.