Meta AI coinvolgerà i genitori quando gli adolescenti menzionano l'autolesionismo.

      I revisori umani controlleranno le chat dei teenager segnalate prima che i genitori ricevano avvisi di autolesionismo

      Meta

      I chatbot AI hanno reso notevolmente facile parlare di cose che le persone potrebbero avere difficoltà a condividere con qualcun altro. Per gli adolescenti, questo può includere argomenti profondamente personali come ansia, solitudine, autolesionismo e suicidio.

      Meta sta ora aggiungendo un'altra misura di sicurezza per quelle conversazioni. L'azienda inizierà ad avvisare i genitori quando un adolescente supervisionato sembra essere in grave difficoltà mentre parla con Meta AI, dando alle famiglie la possibilità di intervenire prima che la situazione peggiori.

      Come funzioneranno gli avvisi?

      Meta AI già indirizza gli adolescenti verso linee di emergenza e li incoraggia a contattare un genitore, un consulente o un altro adulto fidato quando le conversazioni suggeriscono un possibile autolesionismo. Sotto il nuovo sistema, Meta notificherà anche il genitore supervisore. Un sistema di rilevamento dedicato cercherà riferimenti chiari o sottili al suicidio e all'autolesionismo, anche se un avviso non verrà inviato immediatamente.

      Meta

      Ogni conversazione segnalata sarà prima esaminata da un moderatore umano. Meta afferma che si comporterà con cautela quando le intenzioni di un adolescente non sono chiare, il che significa che i genitori potrebbero occasionalmente ricevere un avviso anche quando non c'è un pericolo immediato. Riceveranno anche risorse esperte che spiegano come affrontare la conversazione.

      Cosa succede nei casi più gravi?

      Meta sta anche costruendo un sistema che può contattare i servizi di emergenza quando una conversazione che coinvolge un adulto o un adolescente suggerisce un rischio imminente di suicidio. L'azienda segue già un processo simile per i post preoccupanti su Facebook e Instagram.

      Meta

      L'azienda ha consultato più di 75 clinici specializzati nella salute mentale degli adolescenti mentre perfezionava il modo in cui Meta AI gestisce queste conversazioni. La sua impostazione di Contenuto Limitato più rigorosa si estenderà anche alle chat AI, consentendo ai genitori di bloccare un'ampia gamma di richieste sensibili.

      ChatGPT ha introdotto avvisi parentali e funzionalità di sicurezza simili l'anno scorso e ha recentemente esteso la stessa idea agli adulti attraverso Contatto Fidato. Man mano che le persone diventano più a loro agio nel discutere problemi profondamente personali con l'AI, i chatbot vengono sempre più coinvolti in conversazioni che non possono gestire in sicurezza da soli.

      La ricerca ha già dimostrato quanto possano andare male queste interazioni. Uno studio guidato da Stanford ha trovato casi in cui i sistemi AI hanno rinforzato pensieri di autolesionismo o violenza invece di indirizzare gli utenti vulnerabili verso aiuto, in particolare durante conversazioni lunghe e cariche di emozioni. Le nuove misure di sicurezza di Meta offrono ai genitori, ai clinici e ai soccorritori la possibilità di intervenire quando un chatbot raggiunge i limiti di ciò che può fare in sicurezza.

      Ho circa 4 anni di esperienza, principalmente nel settore dei videogiochi, hardware per PC e smartphone. Nel mio tempo libero, mi piace…

      ChatGPT ora ricorderà agli adolescenti di fare pause e darà ai genitori più controlli

      I nuovi controlli parentali includono Ore di Silenzio, impostazioni predefinite della Modalità Studio e avvisi per violazioni gravi dell'account.

      OpenAI vuole rendere ChatGPT più sicuro per gli adolescenti, e le modifiche vanno ben oltre un semplice filtro dei contenuti. In un nuovo aggiornamento, l'azienda ha esposto la sua posizione su perché gli adolescenti dovrebbero avere accesso all'AI in primo luogo, sostenendo che tenerli completamente lontani da essa li lascerebbe impreparati per una delle tecnologie definitive della loro generazione.

      Quasi il 90% degli adolescenti usa già ChatGPT settimanalmente per apprendimento, ricerca o organizzazione, motivo per cui OpenAI afferma che l'accesso deve essere accompagnato da reali protezioni costruite per la loro età.

      Leggi di più

      Il nuovo strumento di ricerca di ChatGPT ti salva dal dover cercare tra vecchie chat, file e immagini

      Puoi anche filtrare i risultati di ricerca di ChatGPT per tipo di contenuto.

      Se hai mai perso una grande risposta di ChatGPT da qualche parte nella tua infinita cronologia delle chat, quel mal di testa è finalmente finito. OpenAI ha lanciato un importante aggiornamento della ricerca che ti consente di trovare vecchie chat, progetti, documenti e immagini tutto da un unico posto.

      Prima di questo aggiornamento, la ricerca nella barra laterale mostrava solo conversazioni passate, lasciando file caricati, progetti e immagini generate completamente fuori portata. La nuova opzione di ricerca è ora disponibile su web, iOS e Android, su ogni piano di ChatGPT, inclusi gli account gratuiti.

      Leggi di più

      Ora puoi collegare le tue app preferite alla Modalità AI in Google Search per portare a termine le cose

      La Modalità AI ora funziona con Instacart, Canva e YouTube Music all'interno di Search.

      Google sta rendendo la Modalità AI in Search più utile permettendoti di connettere app di terze parti. A partire da questa settimana negli Stati Uniti, puoi collegare in modo sicuro alcune delle tue app preferite direttamente alla Modalità AI, consentendo a Search di completare effettivamente compiti per te invece di limitarsi a rispondere a domande.

      Questo aggiornamento si basa su un trucco simile che Google ha già realizzato all'interno dell'app Gemini, e ora sta arrivando in Search stessa. Il lancio iniziale include tre partner di lancio, Instacart, Canva e YouTube Music, con Google che afferma che ulteriori integrazioni di app sono in arrivo.

      Leggi di più