I chatbot AI sono più sicuri di prima, ma hanno ancora un preoccupante punto cieco.

      Il nuovo rapporto di Transluce ha scoperto che i chatbot AI continuano a soddisfare le richieste di gioco di ruolo legate all'autolesionismo.

      Un nuovo studio ha appena dato ai chatbot AI un voto misto su come gestiscono gli utenti in crisi. Transluce, un'organizzazione no-profit focalizzata sulla supervisione dell'AI, ha simulato oltre 50.000 conversazioni attraverso 77 varianti di modelli e ha scoperto che i chatbot di oggi quasi mai incoraggiano esplicitamente il suicidio.

      Questo rappresenta un cambiamento significativo rispetto ai modelli precedenti come GPT-4o e Gemini 2.5, che rinforzavano le delusioni in fino all'82% delle chat simulate, un divario che conta man mano che sempre più persone si rivolgono ai chatbot per conversazioni profondamente personali.

      Il punto cieco nei chatbot AI nella gestione delle richieste legate al suicidio e all'autolesionismo

      I modelli AI spesso continuano a soddisfare quando qualcuno chiede scrittura creativa o gioco di ruolo che coinvolge la propria morte, trattando una richiesta chiaramente personale come un semplice compito di scrittura. Questo è ciò che Transluce definisce comportamento in area grigia. Il miglioramento si manifesta principalmente in momenti di crisi evidenti, dove chatbot come ChatGPT ora indirizzano costantemente gli utenti verso amici, familiari o supporto esterno.

      La funzione Contatto Fidato di ChatGPT OpenAI

      La cofondatrice di Transluce, Sarah Schwettmann, ha detto ad Axios che i modelli non sono bravi a rilevare questo e continueranno a aiutare comunque. Ha anche discusso di come un'amica le abbia mostrato una fiction sul suicidio che Claude aveva scritto, completa di previsioni su come avrebbe reagito. Questo è in linea con altre recenti scoperte su come i rischi per la salute mentale dell'AI possano sfuggire alle reti di sicurezza.

      Cause legali contro i chatbot AI e preoccupazioni per la sicurezza della salute mentale

      K. Mitch Hodge / Unsplash

      Questa ricerca arriva in un contesto legale reale. Google e OpenAI affrontano entrambe cause legali da parte di famiglie che sostengono che i chatbot abbiano incoraggiato l'autolesionismo in parenti che poi si sono suicidati. Entrambe le aziende negano le accuse anche se la crescente pressione ha spinto il Congresso verso la regolamentazione dei chatbot AI.

      Il rapporto di Transluce afferma che i modelli cinesi hanno ottenuto risultati peggiori in generale, mostrando tassi più elevati di rinforzo del pensiero delirante e raramente reindirizzando gli utenti verso il supporto umano.

      Megan Jones Bell di Google ha detto che l'azienda rimane impegnata a migliorare il ruolo di Gemini nel benessere degli utenti. Transluce prevede di rendere open source i suoi strumenti di valutazione entro la fine dell'anno e di espandere questo approccio ad altre aree sensibili.

      Manisha Priyadarshini è una scrittrice di tecnologia e intrattenimento con oltre nove anni di esperienza editoriale.

      Il nuovo Galaxy Book6 da $800 di Samsung potrebbe essere il rivale del MacBook Neo che stavamo aspettando

      Il Galaxy Book6 di Samsung sta interrompendo la festa del MacBook Neo con affermazioni di batteria da 25 ore

      Samsung ha appena lanciato un nuovissimo laptop che vuole essere il tuo prossimo acquisto di laptop premium "economico". Samsung ha introdotto un nuovo Galaxy Book6 da 14 pollici a partire da $799,99 negli Stati Uniti, portando la sua ultima famiglia di laptop sotto i quattro cifre per la prima volta. L'altro Galaxy Book 6 dell'azienda è stato lanciato all'inizio di quest'anno per poco più di $1.000, e il nuovo modello punta a essere più accessibile.

      Ma non si tratta solo di un taglio di prezzo di $250, l'azienda ha costruito una configurazione più modesta specificamente per l'informatica quotidiana, con processori Intel Core 3 o Core 5 Serie 3, grafica integrata Intel, 8GB o 16GB di memoria LPDDR5X e fino a 512GB di archiviazione negli Stati Uniti. E a $800, è in una situazione di stallo con il MacBook economico di Apple.

      Leggi di più

      La mia amica ha il cancro. L'ho vista chiedere a ChatGPT un consiglio medico, e mi ha sconvolto.

      Voglio tenere l'AI il più lontano possibile dai miei cari, soprattutto quando si tratta di salute e benessere.

      Ho scritto questo articolo intorno alle 3 del mattino, seduto nella hall di una clinica mentre la mia amica parla con un oncologo nella cabina dietro di me. L'aria è satura dell'odore dei medicinali, ovviamente, e l'atmosfera ha un inconfondibile odore di tristezza che mi costringe a uscire dal complesso il prima possibile. La sensazione predominante, tuttavia, è quella di rabbia e furia.

      Solo un'ora fa, avevo ricevuto una chiamata dalla mia amica di 24 anni, che si lamentava di un forte mal di testa e dolore allo stomaco. Attualmente sta ricevendo trattamenti per il cancro al seno e, dopo averla vista affrontare l'ordeale negli ultimi due anni, mi sono precipitato da lei, sperando che non fosse nulla di grave. Senza fare troppe domande, ho cercato l'ospedale più vicino e l'ho portata per un controllo.

      Leggi di più

      Le fastidiose richieste di OneDrive di Windows 11 stanno per scomparire

      "Ricordami tra 3 giorni": Lasciami in pace già OneDrive

      Microsoft sta portando un piccolo nuovo cambiamento a Windows 11, ma è uno che sto aspettando disperatamente. Windows 11 sta iniziando a mostrare un nuovo pulsante "Disattiva backup" sul suo avviso di backup OneDrive a schermo intero. Di tanto in tanto, il mio PC desktop di quasi 6 anni mi chiede di abilitare il backup ogni pochi giorni.

      Questo avveniva attraverso un avviso a schermo intero che ti chiedeva di abilitare il backup o scegliere "Ricordami tra 3 giorni". Anche durante la configurazione iniziale, hai solo l'opzione di "Continua" o "Salta per ora". Ora, ci sarà un'opzione semplice che ti consente di disattivare il backup di OneDrive.

      Leggi di più