L'agenzia digitale dell'ONU lancia un'iniziativa per rendere gli agenti AI affidabili

      L'agenzia digitale delle Nazioni Unite ha deciso che gli agenti AI si stanno muovendo più velocemente della capacità di chiunque di fidarsi di loro, e vuole fare qualcosa al riguardo. Il 9 luglio, l'Unione Internazionale delle Telecomunicazioni ha utilizzato il suo AI for Good Summit a Ginevra per lanciare un'iniziativa volta a mantenere i sistemi AI sempre più autonomi identificabili, responsabili e sotto un controllo umano significativo.

      Il meccanismo è un gruppo di lavoro, il veicolo standard dell'ITU per raccogliere esperti prima che esista uno standard formale. Il suo compito sarà sviluppare quadri per gli agenti AI che possano essere riconosciuti per ciò che sono, fidati di agire entro limiti e mantenuti responsabili nei confronti delle persone per cui agiscono.

      La preoccupazione che lo guida è specifica piuttosto che astratta. Gli agenti AI sono progettati per agire in modo indipendente per conto di un utente, gestendo tutto, dalla pianificazione a processi aziendali complessi, il che significa che possono anche impersonare persone e prendere decisioni che nessuno ha autorizzato esplicitamente. Con la proliferazione degli agenti, sostiene l'ITU, l'assenza di regole condivise per identificarli e limitarli diventa un rischio sistemico.

      Quella preoccupazione non è unica a Ginevra. L'industria più ampia ha trascorso l'ultimo anno scoprendo che la sicurezza degli agenti è in gran parte irrisolta, con molte organizzazioni incapaci di dire quanti agenti stanno gestendo o cosa è permesso fare a ciascuno di essi.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! L'ITU propone di affrontare a livello di standard internazionali ciò che le aziende hanno finora improvvisato internamente.

      Il gruppo riunirà esperti tecnici, politici e legali, riflettendo la preferenza dell'ITU per il consenso multi-stakeholder piuttosto che per mandati dall'alto verso il basso.

      L'obiettivo dichiarato è quello di colmare un panorama normativo frammentato in cui diverse giurisdizioni stanno scrivendo regole incompatibili per la stessa tecnologia, spesso contemporaneamente.

      Quella frammentazione è reale. La Cina ha già emesso standard nazionali che coprono come gli agenti si identificano e interagiscono, parte di un inasprimento più ampio delle sue regole sugli agenti, mentre altri governi e blocchi hanno adottato approcci diversi. Un organismo delle Nazioni Unite che cerca di armonizzare il campo è, almeno, un riconoscimento che l'attuale patchwork non scala.

      Il lavoro avverrà secondo un calendario deliberato. Il gruppo di lavoro è programmato per tenere la sua prima riunione a Parigi a novembre e una seconda a Ginevra a gennaio, con l'output che probabilmente sarà raccomandazioni tecniche piuttosto che regolamenti vincolanti.

      L'ITU stabilisce standard; non li applica, e la sua influenza dipende dal fatto che l'industria e i governi scelgano di adottare ciò che produce.

      Questa è la limitazione intrinseca dell'esercizio. Un gruppo di lavoro è uno strumento lento, e gli agenti AI sono un obiettivo in rapida evoluzione. Tra novembre e ciò che il gruppo eventualmente raccomanderà, la tecnologia sarà avanzata, e le aziende che la implementano avranno stabilito standard de facto propri, proprio come hanno fatto con l'identità degli agenti.

      Tuttavia, la standardizzazione è da dove tende a provenire l'interoperabilità, e l'identità è esattamente il tipo di problema che beneficia di un linguaggio tecnico condiviso. Se agenti di diversi fornitori devono transigere tra di loro e con gli esseri umani, deve esistere un modo comune per dimostrare cosa è un agente e a chi risponde. L'ITU sta scommettendo di poter aiutare a scrivere quella grammatica prima che il mercato si blocchi su qualcosa di peggiore.

      L'ITU è un luogo naturale per il tentativo, sebbene imperfetto. È lo stesso organismo che ha trascorso decenni a definire gli standard dietro le reti telefoniche, lo spettro radio e la "plumbing" di Internet, gli accordi poco glamour che permettono ai sistemi di diversi paesi di comunicare tra loro. Applicare quella macchina agli agenti AI è un'estensione logica, anche se il ritmo della tecnologia la mette alla prova.

      Per ora, l'iniziativa è una mossa iniziale. Nessuno standard è stato pubblicato, nessuna azienda si è impegnata in nulla e la prima riunione è ancora a mesi di distanza.

      Ciò che l'ITU ha fatto è piantare una bandiera su un problema che l'industria continua a rimandare, e invitare tutti al tavolo prima che i sistemi autonomi inizino a stabilire i termini da soli.