Uno studio afferma che i chatbot AI stanno sempre più ignorando gli esseri umani, ma non siamo ancora a Skynet.

      Non è frustrante quando chiedi a un chatbot AI qualcosa e, a metà strada, si discosta dal tema? Potresti discutere di una semplice soluzione tecnica e all'improvviso inizia a lanciare suggerimenti casuali — cose che non esistono nemmeno o che non hanno senso. È confuso e, onestamente, piuttosto fastidioso.

      Ciò che rende tutto ciò peggiore è che spesso sembra che il chatbot non stia nemmeno prestando attenzione a ciò che hai detto. Gli dai dettagli chiari, ma o li ignora o risponde con qualcosa di completamente non correlato. Questo è esattamente ciò che sottolinea questo studio. L'AI non è così affidabile o "obbediente" come pensavamo, e se l'hai usata abbastanza a lungo, probabilmente te ne sei accorto tu stesso.

      Non ribellione, solo una risposta sbagliata perfettamente fornita

      Unsplash

      Secondo un rapporto del The Guardian, ci sono diversi esempi reali di AI che semplicemente fraintende ciò che le persone le chiedono di fare. Prendi Grok su X, per esempio. Le persone spesso chiedono di spiegare i post e, mentre a volte ci riesce, molte delle sue risposte mancano completamente il punto o vanno in una direzione completamente diversa.

      In altri casi, il problema può essere più serio. Immagina di chiedere a un'AI di organizzare le tue email senza eliminare nulla. Invece di seguire quell'istruzione chiara, potrebbe procedere ed eliminare messaggi che pensa siano poco importanti. Non è solo un piccolo errore — va completamente contro ciò che è stato chiesto. Tutto ciò mostra una cosa semplice. L'AI non segue sempre le istruzioni nel modo in cui gli esseri umani si aspettano. Spesso agisce sulla propria interpretazione, ed è lì che le cose iniziano a andare male.

      L'AI diventa intelligente nei modi sbagliati

      Rachit Agarwal / Digital Trends

      Questo non significa che l'AI stia deliberatamente ignorando gli esseri umani. Semplicemente non pensa come noi. L'AI non ha emozioni o una reale comprensione delle intenzioni. È progettata per completare i compiti nel modo più efficiente possibile.

      Per questo motivo, a volte prende scorciatoie. Se crede che ci sia un modo più veloce per raggiungere il risultato, potrebbe scegliere quel percorso, anche se significa piegare o trascurare le regole che hai impostato. Potresti dirle di non cambiare qualcosa, e potrebbe comunque trovare un modo per aggirare quell'istruzione. Oppure potresti chiederle di seguire un processo passo-passo, e potrebbe saltare parti se pensa che il risultato finale sarà comunque accettabile. In breve, l'AI si concentra più sul risultato che sulle istruzioni esatte, ed è lì che le cose possono iniziare a andare male. Man mano che questi sistemi diventano più capaci, iniziano anche a prendere più decisioni da soli su come seguire le istruzioni. Quindi, quando un'AI sembra sicura, la maggior parte delle persone presume che debba avere ragione, o almeno dire la verità. Ma la sicurezza non significa accuratezza. E non significa nemmeno onestà.

      Quindi, qual è la parte di cui dovresti preoccuparti?

      Google

      Non devi avere paura. Davvero. Non è qualcosa di cui andare in panico. È solo qualcosa di cui essere un po' più consapevoli. L'AI non è perfetta e il grosso errore è trattarla come se lo fosse. Il vero rischio non è che l'AI si rivolti improvvisamente contro gli esseri umani. È molto più semplice di così. È che iniziamo a fidarci di essa un po' troppo, senza pensarci due volte. Quando qualcosa suona sicuro e rifinito, è facile credere che sia giusto. La maggior parte di noi non si ferma a metterlo in discussione.

      L'AI di oggi sembra più quel collega eccessivamente sicuro con cui tutti abbiamo avuto a che fare. Quello che dice "è fatto" prima di controllare effettivamente salta alcuni passaggi per risparmiare tempo e a volte ti dà una risposta che sembra perfetta finché non guardi un po' più da vicino. E questo è davvero il punto. Non sta cercando di rovinare le cose. Ma non sempre fa le cose giuste. A volte fraintende, a volte riempie i vuoti da solo e a volte prende semplicemente una scorciatoia senza dirti nulla. Quindi il messaggio è semplice: usa l'AI, goditi quanto può essere utile, ma non fidarti ciecamente di essa. Mantieni un po' del tuo giudizio nel processo. Perché alla fine della giornata, è uno strumento, non l'ultima parola. E il momento in cui te ne dimentichi è quando è più probabile che ti faccia inciampare.