Google rimuove i riassunti sanitari dell'IA dopo che sono emersi pericolosi errori medici

      Quando l'IA di Google “googla” la risposta sbagliata

      Google

      Unsplash

      Ci siamo passati tutti. Avverti un dolore strano al fianco o ricevi un risultato di test dal medico che ti confonde, e la prima cosa che fai è aprire Google. Non cerchi una laurea in medicina; vuoi solo una risposta rapida a “sto bene?”. Ma di recente Google ha dovuto frenare i suoi riassunti di ricerca generati dall'IA perché, a quanto pare, chiedere consigli medici a un robot potrebbe essere davvero pericoloso.

      Google ha silenziosamente rimosso una serie di riassunti sanitari generati dall'IA dai suoi risultati di ricerca dopo che un'inchiesta ha rivelato che fornivano informazioni inaccurate e francamente inquietanti. Tutto è iniziato dopo un reportage del Guardian che ha fatto notare che queste “AI Overviews” — le caselle colorate che compaiono in cima ai risultati di ricerca — stavano offrendo dati incompleti.

      L'esempio più eclatante riguardava gli esami del sangue epatici

      Se chiedevate all'IA i “range normali”, restituiva semplicemente una lista di numeri. Non chiedeva se eri maschio o femmina. Non chiedeva la tua età, la tua etnia o la tua storia clinica. Dava soltanto un numero piatto. Gli esperti medici hanno visto questo e hanno praticamente detto: “Questo è pericoloso.”

      Unsplash

      Il problema qui non è solo che l'IA fosse sbagliata; è che risultava pericolosamente fuorviante. Immagina qualcuno con una malattia epatica in fase iniziale che consulta i risultati dei propri esami. L'IA dice loro che i numeri rientrano nel “range normale” che ha estratto da qualche sito casuale. Quella persona potrebbe pensare: “Ah, allora sto bene,” e saltare un controllo di follow-up. In realtà, un numero “normale” per un ventenne potrebbe essere un campanello d'allarme per un cinquantenne. L'IA non ha la sfumatura per capirlo, e questa mancanza di contesto può avere conseguenze serie e reali.

      La risposta di Google è stata piuttosto standard: hanno rimosso le query specifiche segnalate e hanno insistito sul fatto che il loro sistema di solito è utile. Ma ecco il punto: organizzazioni sanitarie come la British Liver Trust hanno scoperto che se riformulavi leggermente la domanda, la stessa cattiva informazione riemergeva subito. È come un gioco del whack-a-mole digitale. Correggi un errore, e l'IA ne genera uno nuovo cinque secondi dopo.

      Il vero problema qui è la fiducia

      Poiché questi riassunti dell'IA stanno proprio in cima alla pagina, sopra i link reali verso ospedali o riviste mediche, trasmettono un'aura di autorità. Siamo abituati a fidarci del risultato in cima. Quando Google presenta una risposta in una bella casella ordinata, il nostro cervello la tratta inconsciamente come la risposta “corretta”. Ma non lo è. È solo un motore di predizione che prova a indovinare quali parole verranno dopo.

      Unsplash

      Per ora, questo è un enorme campanello d'allarme. L'IA è ottima per riassumere un'email o pianificare un itinerario di viaggio, ma quando si tratta della tua salute, chiaramente non è ancora pronta per il grande pubblico. Fino a quando questi sistemi non saranno in grado di comprendere il contesto — o fino a quando Google non introdurrà regole più rigide — probabilmente è più sicuro scorrere oltre il robot e cliccare su un vero link di un medico reale. La velocità è comoda, ma l'accuratezza è l'unica cosa che conta quando si parla della propria salute.

      Moinak Pal lavora nel settore tecnologico, occupandosi sia di tecnologie consumer sia di tecnologie per il settore automobilistico per il…

      Il tuo primo portatile NVIDIA N1X potrebbe arrivare da Dell

      Dell che compare sulla pista N1X suggerisce che potrebbe essere tra i primi OEM pronti a spedire, il che è fondamentale per chi segue chi lancerà effettivamente questi portatili per primo.

      Un portatile NVIDIA N1X testato da Dell è ricomparso tramite una voce di test trapelata su X, ed è uno dei segnali più chiari finora che i piani di Nvidia per il processore per laptop, di cui si vociferava da tempo, stanno ricevendo seria attenzione all'interno di un OEM.

      Ciò che rende questa vicenda degna di nota è il tipo di prova. Un record datato legato a un sample ingegneristico suggerisce un lavoro di qualificazione pratico, non solo congetture degli osservatori delle specifiche.

      Leggi di più

      Il tuo prossimo mini PC retrò potrebbe assomigliare a una PlayStation classica

      Il nuovo design prende spunti dalla PS1 e dalla Dreamcast, ma resta pratico con porte USB-A e USB-C frontali e un jack da 3,5 mm.

      Acemagic sta cavalcando l'onda dei mini PC retrò con un nuovo design che attinge dalla Sega Dreamcast e dalla PlayStation originale. È un piccolo desktop che sembra appartenere alla stessa mensola delle tue vecchie console, non nascosto dietro a un monitor.

      Non è stata l'unica nostalgia in mostra al CES 2026. Acemagic ha presentato anche un mini PC ispirato all'NES, ma il modello in stile Dreamcast e PlayStation è quello legato alla più recente piattaforma AMD.

      Leggi di più

      Apple ha puntato il suo futuro nell'IA su Gemini. Ecco come può reinventare l'iPhone per te

      Il cervello AI di Gemini, un approccio privato all'elaborazione AI, e il lavoro creativo di Apple. Sembrano buone notizie per il mio iPhone.

      Una delle più grandi annunci nel mondo tech — e tra due delle più grandi aziende tecnologiche del pianeta — è stata condensata in una breve dichiarazione congiunta di meno di cento parole. Apple ha annunciato che Gemini alimenterà la rinascita dell'assistente Siri e il framework che guiderà le esperienze software AI su iPhone e Mac.

      “Questi modelli aiuteranno ad alimentare future funzionalità Apple Intelligence, incluso un Siri più personalizzato in arrivo quest'anno,” ha detto la compagnia. Questa è una grande vittoria per Google, ottima notizia per gli utenti dei dispositivi Apple, e un'ammissione implicita che Apple non è riuscita a guidare la corsa all'IA alla stessa scala di Google, Meta o OpenAI.

      Leggi di più