OpenAI запускает ChatGPT для подростков и автоматически зарегистрирует пользователей младше 18 лет.

      OpenAI запустила ChatGPT для подростков во вторник. Это отдельная версия чат-бота, и пользователи младше 18 лет попадают в нее автоматически. Любой, кто говорит, что ему от 13 до 17 лет, получает доступ по умолчанию. То же самое касается и тех, кого система предсказания возраста компании оценивает как младше 18 лет.

      Глобальный запуск начался 18 августа, и Engadget сообщила, что OpenAI ожидает завершить его в течение двух недель.

      «Нет необходимости подростку создавать новую учетную запись или что-либо менять; если мы предсказываем, что вам меньше 18, или вы нам так сказали, это становится вашим стандартным опытом», — сказала Лорен Джонас, глава OpenAI по вопросам молодежи и семей, в интервью Engadget.

      Продукт объединяет два набора изменений. Один из них направлен на то, чтобы побудить подростков к учебе, а не к сбору ответов. Другой предотвращает поведение чат-бота как человека.

      OpenAI говорит модели не называть себя другом.

      OpenAI утверждает, что ее модель для пользователей младше 18 лет теперь идет дальше, чем просто блокировка романтической или сексуализированной ролевой игры. Чат-бот не должен использовать романтический язык. Он не должен поощрять эмоциональную зависимость. Он не должен подразумевать, что у него есть чувства или сознание. Все три положения исходят из собственного объявления компании.

      «Мы добавляем более строгие ограничения на реляционные границы: модель не должна называть себя другом, предполагать, что у нее есть личные чувства, или намекать на сознание», — сказала Джонас. Напоминания о перерывах будут срабатывать чаще для подростков. Они также будут подчеркивать, что ChatGPT — это ИИ, и что никто не обязан отвечать на него сразу. Подростки и родители могут установить тихие часы, когда чат-бот будет недоступен.

      Обои, акцентные цвета и вариации голоса позволяют подросткам персонализировать приложение. Суть, по словам Джонас, заключается в том, чтобы избежать «размывания границы» между полезным инструментом и человеческими отношениями. Axios сообщила, что изменения направлены на снижение антропоморфизма и эмоциональной зависимости.

      Режим обучения включается в установленные часы.

      Учебная половина собирает функции, которые OpenAI внедрила за последний год. Режим обучения задает направляющие вопросы и проводит студента через проблему. Он не отвечает прямо. Новая настройка Учебные часы автоматически включает режим обучения в выбранное время. Либо подросток, либо родитель с привязанной учетной записью могут установить это.

      Теперь ChatGPT будет замечать, когда подросток, похоже, пропускает задание. Затем он возвращает их в режим обучения. Викторины и визуализации обучения дополняют набор. Функция визуализации охватывала более 70 тем на своем запуске в марте. OpenAI утверждает, что теперь охватывает более 300, включая интегралы, митоз и фазы луны.

      «Мы тестировали режим обучения в ряде рандомизированных контролируемых испытаний и видим положительные результаты в производительности», — сказала Джонас. Она отказалась предоставить цифры. Это утверждение попадает в живую дискуссию о ИИ в классе. Фей-Фей Ли предупреждала, что реальный риск заключается в студентах, которые перестают хотеть учиться.

      OpenAI также включила одобрение учителя в свое объявление. Раккель Гибсон преподает математику в старшей школе в Майами. Не каждый студент имеет кого-то дома, кто может помочь с домашним заданием, сказала она. С правильными ограничениями, добавила она, ИИ может заполнить этот пробел.

      Родители получают больше уведомлений.

      Родители с привязанными учетными записями уже могут устанавливать тихие часы и управлять некоторыми настройками. Они также получают уведомления о безопасности. OpenAI добавляет оповещения для разговоров, которые могут указывать на расстройство пищевого поведения. В прошлом месяце она добавила другой триггер: подростков, которые нарушают ее правила о насильственных угрозах.

      «Мы уведомляем родителей через текстовые сообщения, в приложении и по электронной почте. Все отмеченные материалы проверяются штатными сотрудниками OpenAI перед уведомлением родителей, и мы стремимся уведомить родителей в течение часа после сигнала», — сказала Джонас. Meta создала нечто подобное в июле. Тогда она заявила, что будет уведомлять родителей о разговорах о самоповреждении с помощью своего ИИ.

      Запуск произошел после года юридического давления.

      OpenAI сталкивается с судебными исками по поводу того, как ChatGPT обрабатывал молодых пользователей. Это включает иск о неправомерной смерти от семьи 16-летнего подростка. Отдельно прокуроры в Массачусетсе предъявили обвинения подростку в убийстве его матери и брата. В этом случае прокуроры указали на ChatGPT.

      Подростки активно использовали ИИ задолго до того, как это было запущено. Исследование Common Sense Media в прошлом году показало, что почти три четверти американских подростков используют ИИ для общения. Более половины из них делают это как минимум несколько раз в месяц. ЮНИСЕФ утверждает, что дети начинают использовать ИИ быстрее, чем взрослые.

      Common Sense Media утверждает, что такая категория не должна существовать для более молодых пользователей. «Социальные ИИ-компаньоны небезопасны для детей», — сказал в заявлении основатель и генеральный директор Джим Стейер в прошлом году. «Они созданы для того, чтобы создавать эмоциональную привязанность и зависимость, что особенно беспокоит для развивающихся подростковых умов».

      Джонас представила аргументы OpenAI за создание продукта вообще. Подростки будут использовать ИИ в любом случае, сказала она Axios, и альтернатива менее безопасна. «Мы считаем, что если у вас будут эти инструменты, они должны быть по умолчанию безопасными», — сказала она.

      Насколько хорошо работает проверка возраста, не тестировалось.

      OpenAI не сообщила, насколько точно ее система предсказания возраста работала в тестировании. Engadget отметила, что платформы, включая Discord, сталкиваются с трудностями с подростками, которые обходят проверку возраста. Сара Перес из TechCrunch написала, что пути обхода остаются неясными для подростков, которые решают не сотрудничать.

      Компания добавила оценки для пользователей младше 18 лет в свои опубликованные карточки системы. Они охватывают самоповреждение, расстройства пищевого поведения, насилие, товары с ограничением по возрасту и сексуальный контент. Подростки также увидят напоминания, предупреждающие их о загрузке частных или чувствительных изображений. Половина родителей уже беспокоится о зависимости от технологий, как показал опрос в июле.

      OpenAI объявила о партнерстве с CodeAI одновременно с запуском. Оно будет обучать студентов тому, как работает ИИ и как его ставить под сомнение. «Каждый студент должен знать, как на самом деле работает ИИ, и уметь ставить под сомнение эту технологию», — сказал Карим Мегджи, генеральный директор CodeAI.

      Три числа определят, насколько это важно. Сколько пользователей младше 18 лет система предсказания на самом деле ловит. Сколько из них возвращаются из подросткового опыта. И достигнет ли уведомление о расстройстве пищевого поведения родителя в течение часа, на который нацелена OpenAI. Ни одной из этих цифр пока нет.