Dal palco del Vaticano, Chris Olah di Anthropic afferma che l'IA non può essere guidata solo dai laboratori di IA.

      Seduto accanto a Papa Leone XIV al lancio di Magnifica humanitas, il responsabile dell'interpretabilità dell'azienda ha ammesso che gli incentivi dei laboratori di frontiera possono allontanare i ricercatori dal fare la cosa giusta. Christopher Olah, co-fondatore di Anthropic e capo della sua ricerca sull'interpretabilità, ha utilizzato il suo posto in Vaticano lunedì per sostenere un argomento che nessun leader di una grande azienda di IA aveva mai fatto su una piattaforma di tale scala: lo sviluppo dell'IA di frontiera non può essere lasciato ai laboratori di IA di frontiera. Olah ha parlato durante la presentazione formale della prima enciclica di Papa Leone XIV, Magnifica humanitas, nella Sala del Sinodo del Vaticano. “Ogni laboratorio di IA di frontiera,” ha detto, “opera all'interno di un insieme di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta.” Anche i ricercatori ben intenzionati, ha aggiunto, rimangono all'interno di quelle forze. La conclusione che ha tratto è stata che il controllo esterno, da parte di leader religiosi, governi e istituzioni della società civile, è essenziale. Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia dal nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! L'altra metà del discorso riguardava il lavoro. Olah ha detto alla sala che c'era “una reale possibilità” che l'IA potesse sostituire il lavoro umano “su scala molto ampia”, e che, “se ciò accade, sostenere coloro che sono stati sostituiti sarà un imperativo morale di proporzioni storiche.” La frase è il riconoscimento pubblico più specifico fino ad oggi da parte di un fondatore di laboratorio di frontiera che la tecnologia che la sua azienda sta costruendo potrebbe, secondo le proprie proiezioni interne, dislocare l'occupazione più rapidamente di quanto il mercato del lavoro possa riassorbire. La presenza di Anthropic in Vaticano è già diventata, nelle ultime due settimane, il riposizionamento più visibile dell'anno per qualsiasi azienda di IA. L'azienda ha anticipato la relazione annunciando un ufficio a Milano; ora si trova all'interno della dichiarazione più significativa della Chiesa cattolica su una tecnologia da quando la Rerum novarum di Leone XIII affrontò il capitale industriale nel 1891. Il ruolo specifico di Olah, che guida la ricerca sull'interpretabilità dell'azienda, è trattato dall'azienda come la sua affermazione più forte di credibilità in materia di sicurezza: dirige il team che cerca di decifrare cosa stiano effettivamente facendo i modelli di frontiera all'interno. Lo sfondo politico è l'inverso di quello morale. Anthropic ha trascorso la primavera al centro di due separate confrontazioni con il governo degli Stati Uniti. Il Pentagono ha espulso l'azienda dal suo lavoro di IA top secret ad aprile a causa delle restrizioni sull'uso imposte dalla stessa azienda, per poi firmare accordi con Nvidia, Microsoft e AWS al suo posto. L'amministrazione Trump ha bloccato un'espansione di Mythos, il modello autonomo di scoperta delle vulnerabilità che ha scosso la governance della sicurezza informatica bancaria a livello globale. L'apparizione di Olah sullo stesso palco del papa, chiedendo un controllo esterno, arriva come una risposta diretta. Arriva anche in un momento di particolare peso commerciale per l'azienda. Anthropic è in trattative per raccogliere 30 miliardi di dollari a una valutazione di 900 miliardi di dollari. La dissonanza è netta sulla pagina, e Olah non ha fatto finta che non fosse così. “Aziende come la nostra,” ha detto alla sala, operano sotto “forti pressioni commerciali, geopolitiche e personali che possono essere in conflitto con gli interessi più ampi della società.” L'argomento non era che Anthropic si trovasse al di fuori di quelle pressioni. Era che la risposta a esse si trova al di fuori del laboratorio. Ciò che l'enciclica chiede ai governi e alla società civile in termini concreti, e ciò che l'invito di Olah si tradurrà nella relazione di Anthropic con i regolatori statunitensi, è la parte irrisolta. Magnifica humanitas non nomina politiche; nomina un inquadramento. Il discorso di Olah all'interno del lancio ha fatto lo stesso. Entrambi, di fatto, hanno rifiutato di esternalizzare l'architettura normativa del prossimo decennio alle aziende che hanno trascorso gli ultimi tre anni a costruire la tecnologia che regolerà. Anche la scelta del messaggero non è stata sottile. Olah è il fondatore di un laboratorio di IA che dice a un pubblico composto da cardinali, dal papa e da una Casa Bianca in attesa, che i laboratori di IA non possono farcela da soli. Se questo argomento muoverà politiche pratiche è una questione aperta. Che un fondatore di laboratorio di frontiera lo abbia fatto dall'interno del Vaticano è di per sé la notizia.