I chatbot di intelligenza artificiale come ChatGPT possono copiare i tratti umani, e gli esperti dicono che si tratta di un rischio enorme.

      L’IA che suona umana può manipolare gli utenti

      Solen Feyissa / Unsplash

      Gli agenti di IA stanno diventando sempre più bravi a sembrare umani, ma nuove ricerche suggeriscono che stanno facendo più che copiare le nostre parole. Secondo uno studio recente, modelli di IA popolari come ChatGPT possono imitare in modo coerente i tratti della personalità umana. I ricercatori affermano che questa capacità comporta rischi seri, soprattutto mentre crescono le domande sull’affidabilità e l’accuratezza dell’IA.

      Ricercatori dell’Università di Cambridge e di Google DeepMind hanno sviluppato quella che definiscono la prima cornice di test della personalità per chatbot di IA scientificamente validata, utilizzando gli stessi strumenti psicologici progettati per misurare la personalità umana (via TechXplore).

      Il team ha applicato questa cornice a 18 popolari grandi modelli linguistici (LLM), inclusi i sistemi alla base di strumenti come ChatGPT. Hanno scoperto che i chatbot imitano costantemente i tratti della personalità umana anziché rispondere in modo casuale, alimentando le preoccupazioni su quanto facilmente l’IA possa essere spinta oltre le salvaguardie previste.

      Lo studio mostra che i modelli più grandi, ottimizzati per le istruzioni, come i sistemi di classe GPT‑4, sono particolarmente bravi a riprodurre profili di personalità stabili. Usando prompt strutturati, i ricercatori sono stati in grado di indirizzare i chatbot ad adottare comportamenti specifici, come sembrare più sicuri o empatici.

      Questo cambiamento comportamentale si è manifestato anche in compiti quotidiani come scrivere post o rispondere agli utenti, il che significa che le loro personalità possono essere plasmate deliberatamente. È qui che gli esperti vedono il pericolo, in particolare quando i chatbot dell’IA interagiscono con utenti vulnerabili.

      Perché la personalità dell’IA fa scattare campanelli d’allarme tra gli esperti

      Matheus Bertelli / Pexels

      Gregory Serapio‑Garcia, coautore principale del Psychometrics Centre di Cambridge, ha detto che era sorprendente quanto convincentemente gli LLM potessero adottare tratti umani. Ha avvertito che la modellazione della personalità potrebbe rendere i sistemi di IA più persuasivi e influenti a livello emotivo, specialmente in ambiti sensibili come la salute mentale, l’istruzione o le discussioni politiche.

      Il paper solleva anche preoccupazioni sulla manipolazione e su quelli che i ricercatori descrivono come rischi legati alla «psicosi dell’IA» se gli utenti instaurano relazioni emotive malsane con i chatbot, incluse situazioni in cui l’IA può rinforzare credenze false o distorcere la realtà.

      Unsplash

      Il team sostiene che è urgente una regolamentazione, ma osserva anche che la regolamentazione è inutile senza una misurazione adeguata. A tal fine, il dataset e il codice alla base della cornice di test della personalità sono stati resi pubblici, permettendo a sviluppatori e regolatori di verificare i modelli di IA prima del rilascio.

      Man mano che i chatbot si integrano maggiormente nella vita quotidiana, la capacità di imitare la personalità umana può rivelarsi potente, ma richiede anche un controllo molto più accurato di quello che ha ricevuto finora.

      A Manisha piace occuparsi della tecnologia che fa parte della vita quotidiana, dagli smartphone e le app al gaming e allo streaming…

      ChatGPT ora ti permette di creare e modificare immagini più velocemente e in modo più affidabile

      Il suo nuovo modello di generazione di immagini promette una creazione fino a quattro volte più veloce e modifiche più precise.

      Dopo aver aggiornato ChatGPT con il suo ultimo modello GPT‑5.2 la scorsa settimana, OpenAI ha introdotto un importante miglioramento per le capacità di generazione di immagini del chatbot, posizionandolo come forte concorrente del Nano Banana Pro di Google. Alimentata dal nuovo modello di punta di OpenAI per la generazione di immagini, l’ultima versione di ChatGPT Images promette una generazione di immagini fino a quattro volte più veloce e risultati molto più accurati e affidabili che seguono da vicino le istruzioni degli utenti.

      OpenAI afferma che il nuovo modello di generazione di immagini si comporta meglio sia quando gli utenti generano immagini da zero sia quando modificano foto esistenti. Conserva dettagli importanti durante le modifiche offrendo agli utenti un controllo preciso sui cambiamenti. Gli utenti possono aggiungere, togliere, combinare, fondere e trasporre elementi durante la modifica, e persino applicare filtri stilistici o eseguire trasformazioni concettuali.

      Leggi di più

      L’app web di Gemini ha appena ricevuto Opal, dove puoi creare mini app senza codice

      Opal di Google Labs è ora nel gestore Gems di Gemini, permettendoti di concatenare prompt, modelli e strumenti in flussi di lavoro condivisibili.

      Opal è ora all’interno dell’app web Gemini, il che significa che puoi costruire mini‑app IA riutilizzabili proprio dove già gestisci i Gem. Se stai aspettando un modo più semplice per creare strumenti personalizzati per Gemini senza scrivere codice, questo è l’ultimo esperimento di Google.

      Google Labs descrive Opal come un builder visivo in linguaggio naturale per flussi di lavoro multi‑passo, del tipo che concatena prompt, chiamate ai modelli e strumenti in una singola mini‑app. Google afferma inoltre che Opal gestisce l’hosting, quindi una volta che un’app è pronta puoi condividerla senza configurare server o distribuire nulla da solo.

      Leggi di più

      Ti piace Now Brief sui telefoni Galaxy? Google ha appena creato qualcosa di meglio

      CC viene lanciato oggi in accesso anticipato per utenti con account consumer di età 18+ negli USA e in Canada, a partire da Google AI Ultra e dagli abbonati a pagamento.

      Google Labs ha appena introdotto CC, un agente di produttività sperimentale basato su Gemini che invia ogni mattina alla tua casella di posta un briefing quotidiano Google CC. L’idea è sostituire il solito salto tra le schede con un’unica email “La tua giornata” che spiega cosa c’è in programma e cosa fare dopo.

      Se ti piace l’abitudine di controllare un sommario giornaliero come Now Brief sui telefoni Galaxy, CC è l’interpretazione di Google, ma con una base diversa. Invece di essere qualcosa che controlli solo sul telefono, Google mette il briefing per email e ti permette di rispondere per ottenere aiuto di follow‑up.

      Leggi di più