ChatGPT теперь позволяет вам назначить кого-то, чтобы проверить, если ситуация станет тяжелой.

      OpenAI строит сеть безопасности для людей в ChatGPT на случай кризисных моментов

      AI-чат-боты удивительно упростили разговор на любые темы, включая самые тяжелые из imaginable. Эта открытость всегда была двусторонним мечом. Теперь OpenAI предпринимает шаги для решения этой проблемы с помощью новой функции, которая привлекает доверенное лицо, когда ситуация становится серьезной.

      Компания запускает новую функцию под названием Доверенный контакт, и она начинает появляться в настройках ChatGPT для взрослых пользователей. Она позволяет пользователям назвать одно лицо, которое может быть уведомлено, если ChatGPT обнаружит серьезную проблему с самоповреждением.

      OpenAI

      Как работает Доверенный контакт?

      Настройка Доверенного контакта является необязательной, но если вы решите ее настроить, то вам нужно убедиться, что контакт, которого вы назначаете, как минимум 18 лет, или 19 в Южной Корее. Как только вы назовете кого-то, они получат приглашение с объяснением того, что на самом деле означает эта роль, и у них есть неделя, чтобы принять его, прежде чем функция станет активной. Если они откажутся, вы можете выбрать кого-то другого.

      Система уведомлений не является автоматической. Если системы ChatGPT пометят разговор как потенциально вызывающий беспокойство, чат-бот сначала сообщает пользователю, что их Доверенный контакт может быть уведомлен, и также подталкивает пользователя обратиться напрямую с некоторыми предложенными стартерами для разговора. Небольшая команда специально обученных человеческих рецензентов затем вмешивается, чтобы оценить ситуацию. Только если они подтвердят серьезный риск, контакт действительно получает уведомление по электронной почте, текстовому сообщению или уведомлению в приложении. Уведомление не делится текстами чата или деталями разговора. Оно просто говорит, что самоповреждение возникло в потенциально вызывающем беспокойство контексте и просит контакт проверить ситуацию. OpenAI заявляет, что стремится завершить этот человеческий обзор менее чем за час.

      OpenAI

      Почему OpenAI добавляет это сейчас?

      Доверенный контакт является частью более широкого набора функций безопасности на платформе. Ранее OpenAI добавила функции, которые позволяют родителям получать уведомления, когда связанный аккаунт подростка показывает признаки стресса. Доверенный контакт является взрослой версией этой же функции. Сообщается, что он был разработан с учетом мнений клиницистов, исследователей и организаций в области психического здоровья, включая Американскую психологическую ассоциацию.

      Тем не менее, стоит упомянуть, что Доверенный контакт не заменяет кризисные горячие линии, экстренные службы или профессиональную психиатрическую помощь. ChatGPT по-прежнему будет направлять пользователей к этим ресурсам, когда это необходимо. Пользователи могут удалить или изменить своего Доверенного контакта в любое время, а контакты могут удалить себя, когда захотят.

      Реальность такова, что ChatGPT используется для некоторых глубоко личных разговоров, планировала ли на это OpenAI или нет. Добавление такой функции, как Доверенный контакт, является шагом в правильном направлении и также признанием того, что чат-бот может сделать лишь ограниченное количество.