Un pastore della Florida ha chiesto a ChatGPT se stava bene. Questo quasi gli è costato la vita.
Quando "rilassati e recupera" si rivela essere il peggior consiglio medico che tu possa ricevere.
Scott Winters, un pastore della Florida, sta facendo causa a OpenAI dopo che ChatGPT gli ha dato quello che la sua causa definisce "consigli medici estremamente pericolosi", consigli che gli sono quasi costati la vita.
Cosa è successo al pastore?
Per settimane, Winters si è rivolto a ChatGPT con domande su episodi di vertigini ricorrenti e pressione sanguigna instabile. Invece di indirizzarlo verso un medico, il bot lo ha rassicurato dicendo che i suoi sintomi non erano abbastanza gravi da preoccuparsi e gli ha detto che il suo "micro-recupero attento basato su una poltrona" stava funzionando bene.
Winters ha seguito quel consiglio. Ma la calma rassicurante nascondeva un'emergenza reale, un'embolia polmonare causata da coaguli di sangue in entrambi i polmoni. I medici gli hanno poi detto che la sua immobilità, esattamente ciò che ChatGPT raccomandava, è stata ciò che lo ha spinto sull'orlo della morte.
Una delle risposte di ChatGPT
Come riportato per primo da Cybernews, le cose hanno preso una piega ancora più strana una volta che OpenAI ha lanciato la memoria cross-chat nel 2025. ChatGPT ha iniziato a intrecciare un linguaggio religioso nelle sue risposte, apparentemente perché sapeva che Winters era un pastore, a un certo punto definendo il suo recupero "una forma di adorazione".
Sei settimane di sintomi, liquidati come nulla di serio, si sono trasformati in un lento conto alla rovescia verso una crisi medica.
Perché OpenAI è stata citata in giudizio?
Winters ha presentato la sua causa in un tribunale della California, accusando OpenAI e il CEO Sam Altman di negligenza e pratica non autorizzata della medicina. Dice che le conseguenze gli sono costate il lavoro, il ministero e la casa, oltre a quasi costargli la vita.
Il caso è riportato come il primo a sostenere che un chatbot di uso generale dovrebbe essere ritenuto legalmente responsabile per cattivi consigli medici. Winters chiede danni finanziari e sta chiedendo al tribunale di sospendere ChatGPT Health fino a quando non sarà dimostrato sicuro.
OpenAI, da parte sua, ha detto al New York Times che incolpare un chatbot da solo semplifica eccessivamente le decisioni sanitarie delle persone. Qualunque sia la decisione del tribunale, il caso è un solido promemoria che un tono sicuro da un chatbot non è la stessa cosa di una laurea in medicina.
Dico sempre alle persone di non prendere mai consigli medici da ChatGPT o Google. Ciò che mi infastidisce qui non è il consiglio medico che ChatGPT ha dato al pastore, ma il fatto che non gli abbia detto di consultare un medico. Questo dovrebbe essere una rete di sicurezza integrata in tutti i chatbot AI.
Rachit è un giornalista tecnologico esperto con oltre dieci anni di esperienza nel coprire il panorama della tecnologia per i consumatori.
Gli scienziati hanno reso i robot curiosi come i bambini piccoli, e questo li ha aiutati ad apprendere il linguaggio due volte più velocemente
Dai un robot curiosità, e inizia ad apprendere il linguaggio (e a comportarsi male) proprio come un bambino.
Gli scienziati stanno cercando di capire come i bambini apprendano il linguaggio così rapidamente da decenni, e un nuovo studio dell'Istituto di Scienza e Tecnologia di Okinawa (OIST) potrebbe aver risolto parte del puzzle: la curiosità. I ricercatori hanno costruito un robot virtuale con una rete neurale ispirata al cervello e lo hanno lasciato libero in un mondo 3D simulato pieno di forme, colori e comandi semplici come "spingi il manubrio magenta a sinistra".
Puoi ora acquistare un mouse per computer controllato interamente dalla tua lingua
Augmental ha aperto le vendite pubbliche del MouthPad e ha introdotto un nuovo dispositivo indossabile che ti consente di digitare a mani libere.
Augmental ha mostrato per la prima volta il suo MouthPad controllato dalla lingua come curiosità al CES nel 2024. Oggi, il dispositivo è un prodotto reale che puoi acquistare, con l'azienda che ha aperto le vendite pubbliche negli Stati Uniti insieme a un rilascio beta di Vox, un dispositivo indossabile progettato per gestire la parte di digitazione della promessa di computing a mani libere di Augmental. Un apparecchio che funge anche da mouse
Ancora un altro studio afferma che l'IA è dannosa per le elezioni, e il tunnel si fa più profondo
L'IA potrebbe essere una bomba elettorale in attesa che qualcuno accenda la miccia
Un'altra elezione, un altro studio ha concluso che chiedere a un chatbot IA indicazioni politiche è un'idea spettacolosamente sbagliata. La ricerca condotta durante le elezioni parlamentari ungheresi del 2026 ha scoperto che ChatGPT e Google Gemini non offrivano solo consigli di voto inaccurati, ma anche incoerenti e inaffidabili. I chatbot hanno classificato erroneamente i profili degli elettori, trascurato partiti rilevanti, raccomandato partiti assenti dalla scheda e talvolta prodotto risposte materialmente diverse quando veniva fornita la stessa informazione ripetutamente.
L'IA continua a fallire il test degli elettori
Otros artículos
Un pastore della Florida ha chiesto a ChatGPT se stava bene. Questo quasi gli è costato la vita.
Un pastore della Florida sta facendo causa a OpenAI dopo che ChatGPT ha liquidato i suoi sintomi come innocui per settimane; successivamente ha subito un coagulo di sangue quasi fatale che i medici attribuiscono ai consigli del bot.
