Affrontare la necessità di migliorare l'affidabilità dell'IA nelle aziende del mondo reale

      L'IA vede un ampio utilizzo in molte industrie, ma la sua affidabilità lascia ancora a desiderare.

      Nel 2026, l'IA è ovunque. Scuole, giornali online, laboratori e un numero sempre crescente di aziende private impiegano programmi di IA per una vasta gamma di compiti, tipicamente in nome della velocità e dell'efficienza.

      Tuttavia, come chiunque abbia mai utilizzato un chatbot IA può dirti, quella velocità può venire a costo della veridicità.

      Il Problema delle Allucinazioni dell'IA

      Se dicessi a un chatbot che saresti "disposto a pagare un milione di dollari per avere una pizza proprio ora", il LLM che alimenta quel chatbot potrebbe interpretare quella dichiarazione letteralmente; piuttosto che leggere la tua affermazione come un desiderio esagerato e umoristico per la pizza, potrebbe benissimo pensare che saresti effettivamente disposto a pagare 1 milione di cervi maschi per ottenere un pezzo di pizza.

      Questo tipo di malinteso, o "allucinazione" nel contesto dell'IA, è relativamente innocuo quando si pongono domande sciocche a un chatbot. Ciò che non è così innocuo è quando l'IA fornisce informazioni errate o addirittura completamente inventate per un'azienda farmaceutica che testa interazioni tra farmaci, o per un manager della catena di approvvigionamento che cerca di prevedere i migliori percorsi di spedizione durante un periodo di turbolenze politiche.

      Le allucinazioni dell'IA potrebbero essere più gestibili se fosse sempre chiaro quando un programma stava inventando o fraintendendo informazioni, ma poiché la maggior parte degli LLM è progettata per sembrare sicura e concorde, può essere difficile distinguere il fatto dalla falsità senza un accurato controllo dei fatti. Naturalmente, controllare il programma che è destinato a verificare i fatti per i suoi utenti è controintuitivo e, francamente, autolesionista.

      Ci sono due cause più importanti per le allucinazioni dell'IA: una, la maggior parte degli LLM non è programmata per far sapere agli utenti se non sanno qualcosa, e due, gran parte dei dati di addestramento da cui apprendono gli LLM è essa stessa piena di imprecisioni e opinioni.

      Questi fattori combinati rendono effettivamente possibile che gli LLM non solo siano errati, ma lo siano con sicurezza, e quando intere aziende costruiscono i loro modelli sull'assunzione che l'IA fornisca quasi sempre risposte chiare, pertinenti e accurate, quelle aziende e le persone che lavorano con esse possono a volte finire per basare le loro azioni su informazioni false.

      Questo non significa che le aziende non siano consapevoli del fatto che l'IA può e allucina; tuttavia, alcune aziende hanno iniziato a fare di tutto per sviluppare modelli di IA che affrontano direttamente le cause radice delle allucinazioni dell'IA.

      Migliorare l'Affidabilità dell'IA nel Mondo Reale: Un Caso Studio

      Una di queste aziende che lavora per migliorare l'affidabilità dell'IA è Vertus, un'azienda di IA con sede nell'Isola di Man. I suoi fondatori, Julius Franck, Alex Foster e Michal Prywata, hanno costruito un sistema di ragionamento cognitivo progettato per riconoscere quando determinati schemi sono e non sono applicabili, aiutandolo così a evitare di fare gli stessi tipi di assunzioni che molti altri LLM potrebbero perpetuare in circostanze simili.

      Per testare la loro IA, Vertus ha fatto operare il suo sistema sui mercati finanziari per tutto il 2025. In questo periodo, l'azienda ha riportato risultati positivi.

      Vertus attribuisce il suo successo alla capacità del suo sistema di adattarsi rapidamente a nuovi schemi nel mercato. Per fare questo, l'IA è progettata per chiedere se un dato schema si applica ancora a una certa situazione. Quando non si applica, il sistema riconosce il cambiamento, si ferma e ricostruisce il suo ragionamento attorno a ciò che sta realmente accadendo.

      Come una sorta di misura di sicurezza, l'IA è anche progettata per dire al suo utente quando non può fornire una risposta a una domanda, riducendo la probabilità di inventare una risposta sicura ma fattualmente infondata.

      Con i test di Vertus che hanno dato esito positivo, l'azienda ha iniziato a estendere le sue soluzioni di IA alla sanità, alla ricerca scientifica e alla gestione della catena di approvvigionamento.

      Sebbene Vertus non sia affatto l'unica organizzazione che lavora per migliorare l'affidabilità dell'IA, i suoi successi servono come un utile indicatore di un approccio che, finora, si è dimostrato prezioso. Costruire sistemi di IA per controllare le nuove informazioni rispetto a ciò che già sanno e dire agli utenti quando non sanno qualcosa sono passi importanti verso la mitigazione delle allucinazioni dell'IA, anche se se questi sistemi diventeranno comuni a breve resta da vedere.

      C'è Ancora Lavoro da Fare

      Anche nei pochi anni trascorsi da quando i chatbot sono stati resi popolari con l'introduzione di ChatGPT nel 2022, gli usi pratici e teorici dell'IA si sono espansi sostanzialmente. Sebbene questa rapida espansione abbia aiutato molte aziende a migliorare il loro bilancio riducendo i costi, una crescita così sostanziale in un breve periodo di tempo ha le sue conseguenze.

      Le allucinazioni dell'IA rimangono un problema serio, e man mano che l'IA diventa sempre più radicata nella medicina, nella finanza, nell'istruzione e in molte altre industrie integrali, la necessità di affrontare le sue tendenze a fornire risposte rapide e sicure a scapito della veridicità diventerà sempre più vitale.

      La capacità dell'IA di raccogliere, organizzare e analizzare enormi quantità di informazioni in pochi momenti potrebbe rivelarsi strumentale per le organizzazioni nei prossimi anni, ma qualsiasi ulteriore progresso deve essere temperato da sforzi per migliorare l'affidabilità dell'IA prima che le persone considerino di espandere le sue attuali fondamenta difettose.

      Le informazioni fornite in questo articolo sono solo a scopo informativo e educativo generale. Non sono destinate a costituire consulenza legale, finanziaria, medica o professionale. I lettori non dovrebbero fare affidamento esclusivamente sul contenuto di questo articolo e sono incoraggiati a cercare consulenza professionale su misura per le loro specifiche circostanze. Decliniamo ogni responsabilità per eventuali perdite o danni derivanti direttamente o indirettamente dall'uso o dall'affidamento sulle informazioni presentate.

       Digital Trends collabora con contributori esterni. Tutti i contenuti dei contributori sono esaminati dallo staff editoriale di Digital Trends.