Meta позволит родителям видеть чаты детей с ИИ и вмешиваться, прежде чем риски выйдут из-под контроля

      Meta уже некоторое время находится под давлением из-за безопасности подростков и ИИ. После расследования Wall Street Journal, проигранного иска в Нью-Мексико и расследования FTC компания наконец-то внедряет некоторые значимые инструменты родительского контроля.

      Сегодня Meta представляет новую вкладку Insights в своем центре контроля на трех самых популярных платформах: Instagram, Facebook и Messenger. Хотя название не дает понять это сразу, функция предоставляет родителям возможность увидеть, о чем их подростки на самом деле обсуждают с Meta AI на всех этих приложениях.

      Meta

      Что могут увидеть родители?

      Хотя родители не получат дословную расшифровку разговоров своих детей с Meta AI, новая вкладка Insights предоставляет еженедельные сводки по темам. Она охватывает широкие категории, такие как Школа, Развлечения, Образ жизни, Путешествия, Письмо и Здоровье, каждая из которых имеет свои подкатегории.

      Здоровье и благополучие, например, охватывает такие темы, как фитнес, физическое здоровье и психическое здоровье. Надежда заключается в том, что категории предоставят достаточно контекста для родителей, чтобы выявить тревожные паттерны среди тем, не читая все сообщения.

      Помимо видимости тем, родители также могут решать, к каким персонажам ИИ может получить доступ их ребенок, и даже полностью отключить чаты с персонажами, оставив ИИ-ассистента доступным для общих случаев использования, таких как выполнение домашнего задания, решение повседневных вопросов и т.д.

      Meta

      Meta также разрабатывает специальные уведомления для чувствительных тем, которые, я считаю, являются самым эффективным способом уведомления родителей о любых тревожных чатах. Если разговор ИИ подростка касается самоповреждения или, что еще хуже, переходит в суицид, родители будут уведомлены напрямую.

      Кому это доступно?

      Пока вкладка Insights доступна в Соединенных Штатах, Великобритании, Австралии, Бразилии и Канаде. Ожидается, что глобальный запуск состоится через несколько недель. В дополнение к новому дополнению Meta также сотрудничает с Центром исследований кибербуллинга для разработки тем для обсуждения.

      К ним относятся подсказки, которые могут помочь родителям начать ненавязчивые обсуждения о ИИ с их подростками. Важно подчеркнуть, что шаг компании происходит под значительным юридическим и регуляторным давлением, а не из благородного побуждения, и именно это имеет значение.

      Если система уведомлений о чувствительных темах будет работать хорошо, это может установить промышленный стандарт для того, как ИИ или социальные медиа-платформы обращаются с молодыми, уязвимыми пользователями.