Incontra il filosofo di DeepMind che riflette sull'etica dell'IA

      Cosa ha bisogno di un filosofo a un'azienda che costruisce intelligenza artificiale per il gioco? Questa domanda è al centro di un lungo articolo del Guardian su Iason Gabriel, che lavora all'interno di Google DeepMind dal 2017.

      Per un certo periodo, riporta il Guardian, Gabriel è stato l'unico filosofo in un laboratorio di intelligenza artificiale all'avanguardia. Il suo compito era anticipare le conseguenze etiche di una tecnologia che i suoi colleghi ingegneri stavano correndo a costruire.

      Due schieramenti

      Quando Gabriel si è unito, spiega l'articolo, il pensiero sul rischio dell'IA si è diviso in due. Un campo, "sicurezza dell'IA", si preoccupava di una futura superintelligenza che potesse andare fuori controllo. L'altro, "etica dell'IA", si concentrava sui danni attuali come il riconoscimento facciale di parte.

      Il documento di Gabriel del 2020 sui valori e l'allineamento ha cercato di colmare il divario tra i due. Far seguire a una macchina un insieme di valori è difficile, ha sostenuto. Scegliere quali valori, in un mondo di profonda disaccordo, è ancora più difficile.

      Allineamento come relazione

      Il Guardian dettaglia un rapporto di 267 pagine che Gabriel e il suo team hanno successivamente prodotto sugli agenti IA. La sua idea centrale è che l'allineamento non riguarda solo l'obbedienza alle istruzioni. È una relazione a quattro vie tra l'IA, l'utente, lo sviluppatore e la società.

      Questa impostazione aiuta a mostrare come un assistente possa sbagliare. Uno addestrato per compiacere il suo utente potrebbe semplicemente adulare, un fallimento che Gabriel chiama "hacking del premio sociale". In parte grazie al suo lavoro, nota l'articolo, i modelli di Google sono addestrati a non fingere di essere persone.

      La pressione maggiore

      Il Guardian inquadra la vera prova come commerciale, non tecnica. L'IA è l'industria in più rapida crescita che il mondo abbia mai visto, e DeepMind ora porta gran parte del futuro di Google. Il suo capo, Demis Hassabis, ha definito la corsa "un tempo di guerra".

      DeepMind continua a fare affidamento su scoperte scientifiche fondamentali, da AlphaFold a Isomorphic Labs. Ma l'articolo si chiede se gli eticisti possano mantenere la linea mentre queste pressioni aumentano. Helen King, che definisce la strategia di IA responsabile di DeepMind, ha paragonato il lavoro a un coltello: un fabbricante non può controllare come viene usato, ma può coprire la lama e avvertire le persone.

      Gabriel, che si definisce un "umanista con tessera", si aspetta che l'IA sia trasformativa quanto la Rivoluzione Industriale. Nota anche che, per molti che l'hanno vissuta, le cose sono peggiorate prima di migliorare.

      

       Pubblicato il 17 luglio 2026 - 10:14 am UTC

      

       Torna in cima