OpenAI только что обновила свою «Model Spec» — фактически свод правил для своей ИИ — добавив специальный набор принципов для лиц младше 18 лет (U18), призванных изменить то, как ChatGPT общается с подростками в возрасте от 13 до 17 лет. Этот шаг — явное признание того, что подростки — не просто «мини‑взрослые»: у них другие эмоциональные и развивающие потребности, которые требуют более строгих ограничений, особенно когда разговоры становятся тяжёлыми или рискованными. Новая система взаимодействия ИИ, ориентированная на подростков Это обновление подробно описывает, как именно ChatGPT должен работать с подростками, при этом соблюдая общие правила, применимые ко всем остальным. OpenAI говорит, что цель — создать опыт, который ощущается более безопасным и соответствующим возрасту, с упором на профилактику и прозрачность. Airam Dato-on / Pexels Это не просто случайные правила; принципы U18 основаны на науке о развитии и были проверены внешними экспертами, включая Американскую психологическую ассоциацию. Рамочная система строится на четырёх основных обещаниях: ставить безопасность подростков превыше всего (даже если это сделает ИИ в данный момент менее «полезным»), направлять подростков к реальной поддержке вместо того, чтобы позволять им полагаться на чат‑бота, относиться к ним как к реальным подросткам, а не к маленьким детям или взрослым, и быть честными в отношении ограничений ИИ. Эти принципы формализуют то, как ChatGPT должен действовать с повышенной осторожностью, когда поднимаются такие темы, как самоповреждение, сексуальные ролевые игры, опасные челленджи, употребление психоактивных веществ, проблемы с образом тела или просьбы сохранять в секрете небезопасное поведение. Что это значит для семей и что будет дальше Это важно, потому что ИИ быстро превращается в стандартный инструмент для того, как молодые люди учатся и ищут ответы. Без чётких границ существует реальная опасность, что подростки могут обращаться к ИИ в моменты, когда им на самом деле нужен родитель, врач или консультант. OpenAI утверждает, что новые правила гарантируют: когда разговор скатывается в опасную область, ассистент предложит более безопасные альтернативы, установит жёсткие границы и посоветует подростку обратиться к надёжному взрослому. Если ситуация выглядит как непосредственная чрезвычайная, система должна направить их к кризисным горячим линиям или экстренным службам. Unsplash Для родителей это даёт некоторое успокоение. OpenAI связывает эти новые принципы со своей Программой безопасности подростков (Teen Safety Blueprint) и с существующими родительскими контролями. Защита также расширяется и охватывает новые функции, такие как групповые чаты, браузер ChatGPT Atlas и приложение Sora, а также встроенные напоминания сделать перерыв, чтобы дети не были прикованы к экрану. Смотря вперёд, OpenAI начинает внедрять инструмент для определения возраста в личных аккаунтах ChatGPT. Эта система будет пытаться угадать, является ли пользователь несовершеннолетним, и автоматически включать эти подростковые меры безопасности. Если система не уверена, по умолчанию она переключится на более безопасный опыт U18 на всякий случай. Компания говорит, что это не разовое решение; они планируют продолжать корректировать эти меры защиты на основе новых исследований и отзывов, ясно давая понять, что безопасность подростков будет долгосрочным проектом.

      OpenAI ha appena aggiornato la sua «Model Spec» — fondamentalmente il libro delle regole per la sua IA — con un insieme specifico di Principi Under-18 (U18) pensati per cambiare il modo in cui ChatGPT parla con gli adolescenti di età compresa tra i 13 e i 17 anni. La mossa è una chiara ammissione che gli adolescenti non sono semplicemente dei “mini-adulti”; hanno bisogni emotivi e di sviluppo diversi che richiedono barriere di sicurezza più forti, soprattutto quando le conversazioni diventano pesanti o rischiose.

      Un nuovo quadro per le interazioni AI rivolte agli adolescenti

      Questo aggiornamento specifica esattamente come ChatGPT dovrebbe gestire gli utenti adolescenti, pur continuando a seguire le regole generali che valgono per tutti gli altri. OpenAI afferma che lo scopo è creare un'esperienza che risulti più sicura e adeguata all'età, con un'attenzione particolare alla prevenzione e alla trasparenza.

      Airam Dato-on / Pexels

      Non si tratta nemmeno di regole casuali; i Principi U18 si basano sulla scienza dello sviluppo e sono stati esaminati da esperti esterni, inclusa l'American Psychological Association.

      Il quadro si fonda su quattro promesse principali: mettere la sicurezza degli adolescenti al di sopra di tutto (anche se questo rende l'IA meno “utile” sul momento), indirizzare gli adolescenti verso un supporto nel mondo reale invece di lasciarli fare affidamento su un chatbot, trattarli come veri adolescenti piuttosto che come bambini piccoli o adulti pienamente cresciuti, ed essere onesti sui limiti dell'IA.

      Questi principi formalizzano il modo in cui ChatGPT interviene con maggiore cautela quando emergono argomenti come l'autolesionismo, i giochi di ruolo sessuali, le sfide pericolose, l'uso di sostanze, i problemi di immagine corporea o le richieste di mantenere segreti comportamenti pericolosi.

      Cosa significa questo per le famiglie e cosa succederà dopo

      Questo è importante perché l'IA sta rapidamente diventando uno strumento standard per il modo in cui i giovani imparano e cercano risposte. Senza limiti chiari, esiste un rischio reale che gli adolescenti si rivolgano all'IA in momenti in cui avrebbero davvero bisogno di un genitore, di un medico o di un consulente.

      OpenAI afferma che queste nuove regole garantiscono che, quando una chat scivola in territori pericolosi, l'assistente offrirà alternative più sicure, imposterà limiti netti e dirà all'adolescente di cercare un adulto di fiducia. Se la situazione sembra un'emergenza immediata, il sistema è predisposto per indirizzarlo verso linee di crisi o servizi di emergenza.

      Unsplash

      Per i genitori, questo offre un po' più di tranquillità. OpenAI sta collegando questi nuovi principi al suo Teen Safety Blueprint e ai controlli parentali esistenti. Le protezioni si stanno inoltre estendendo per coprire funzionalità più recenti come le chat di gruppo, il browser ChatGPT Atlas e l'app Sora, insieme a promemoria integrati per fare una pausa in modo che i ragazzi non restino incollati allo schermo.

      Guardando avanti, OpenAI sta iniziando a distribuire uno strumento di predizione dell'età per gli account personali di ChatGPT. Questo sistema cercherà di indovinare se un utente è un minorenne e attiverà automaticamente queste protezioni per gli adolescenti.

      Se non è sicuro, imposta per precauzione l'esperienza più sicura U18. L'azienda afferma che non si tratta di una soluzione “una tantum”; prevede di continuare a modificare queste protezioni in base a nuove ricerche e ai feedback, chiarendo che la sicurezza degli adolescenti sarà un progetto a lungo termine.