Hassabis vuole un arbitro in stile FINRA per l'IA di frontiera
L'uomo dietro l'IA di Google pensa che il mondo abbia bisogno di un arbitro. E ha redatto le regole. Demis Hassabis vuole un organismo di vigilanza guidato dagli Stati Uniti che esamini i modelli all'avanguardia prima del rilascio. È modellato sul poliziotto di Wall Street e potrebbe rallentare l'intera industria.
Demis Hassabis di solito non suona l'allerta. Martedì lo ha fatto.
Il capo di Google DeepMind e premio Nobel ha pubblicato un manifesto su X. In esso, sostiene che l'intelligenza artificiale generale è "probabilmente a pochi anni di distanza". Il mondo, dice, non è pronto. Chiama questo una "finestra preziosa" prima che arrivi l'AGI, e si sta chiudendo.
La sua soluzione è insolitamente concreta. Vuole che gli Stati Uniti costruiscano un nuovo organismo di standard per l'IA. Il suo modello è la FINRA, l'organismo di vigilanza finanziato dall'industria che controlla Wall Street sotto la supervisione del governo.
Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte IA discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! L'organismo sarebbe una partnership pubblico-privato, finanziata principalmente dai laboratori stessi. Il suo consiglio sarebbe composto da esperti indipendenti, tra cui vincitori del premio Turing, oltre a voci open-source e governative.
Il suo compito è testare i modelli più potenti prima che vengano rilasciati. All'inizio, i laboratori consegnerebbero i loro sistemi volontariamente, fino a 30 giorni prima del rilascio. I test esaminerebbero le cose pericolose: abilità di attacco informatico, rischio biologico e nucleare, e segni di inganno.
Una volta che il regime funziona, si indurirà. Un modello di "classe Frontier" dovrà superare i test prima di poter raggiungere il mercato statunitense. L'organismo stabilirebbe i parametri di riferimento e li aggiornerebbe ogni trimestre. Le regole si applicherebbero a qualsiasi modello di questo tipo, aperto o chiuso, ovunque venga costruito. Le startup e gli accademici rimarrebbero esenti.
Il potere di tirare il freno
La parte più sorprendente è il freno. Hassabis afferma che l'organismo potrebbe essere "aumentato" man mano che i rischi crescono. Ciò include "coordinare un rallentamento nello sviluppo tra i Frontier Labs se ritenuto necessario".
È una cosa notevole da proporre per un capo laboratorio. Sta chiedendo un meccanismo per far fermare la propria industria.
Ha detto ad Axios, che ha rivelato il piano, che i rischi informatici di oggi sono solo "colpi di avvertimento". Entro 18 mesi, ha avvertito, potrebbero emergere strumenti biologici e nucleari molto più gravi. Potrebbero trovarsi all'interno di modelli open-source che nessun governo può richiamare. La sua tempistica è aggressiva. Vuole che l'organismo sia operativo prima della fine dell'anno. Dice di aver informato l'amministrazione Trump, laboratori rivali e funzionari europei per mesi. I "rumori", ha detto, sono "molto positivi".
Perché ora
Il tempismo non è un incidente. Il mese scorso, l'amministrazione Trump ha congelato i modelli più potenti di Anthropic da un giorno all'altro con un ordine di esportazione. Settimane di negoziati tesi sono seguite, senza un regolamento. Hassabis ha definito questo "un po' un campanello d'allarme". OpenAI, temendo lo stesso destino, ha trattenuto GPT-5.6 fino a quando il governo non ha dato il via libera.
Non è solo nel voler regole. Lui e Dario Amodei di Anthropic hanno chiesto una coalizione guidata dagli Stati Uniti al G7. Amodei vuole un'agenzia in stile FAA che possa bloccare modelli non sicuri. I capi dei laboratori ora concordano sul fatto che Washington dovrebbe regolarli. Differiscono principalmente su chi detiene il martelletto.
Hassabis inquadra tutto questo in termini quasi cosmici. L'AGI, scrive, è meno simile a Internet che al fuoco o all'elettricità. "Abbiamo essenzialmente trovato un modo per far pensare la sabbia. È miracoloso." La domanda più difficile è quella a cui il suo piano non può rispondere. Può un organismo finanziato dai laboratori, e che osserva l'inganno nei modelli da cui traggono profitto, essere mai quello che dice di fermarsi?
Altri articoli
Il centro dati AI da £2 miliardi di Nscale colpito dai ritardi della rete nel Regno Unito
Il data center Essex da 2 miliardi di sterline di Nscale non riesce a ottenere energia dalla rete in tempo per aprire, costringendolo a cercare la propria elettricità mentre le code di connessione nel Regno Unito si allungano per anni.
X sta insegnando al suo algoritmo di intelligenza artificiale qualcosa che i social network una volta comprendevano.
X sta promuovendo post tra follower reciproci dopo aver scoperto che i dati sulle relazioni mancavano dal suo algoritmo, rivelando il divario tra la previsione dell'engagement e la creazione di conversazioni che le persone desiderano realmente.
Samsung Health minaccia di eliminare i tuoi dati se decidi di non partecipare all'addestramento dell'IA
Un nuovo interruttore di consenso di Samsung Health offre agli utenti un ultimatum: accettare di condividere dati sanitari sensibili per l'addestramento dell'IA o perdere permanentemente tutti i dati sincronizzati.
Hassabis vuole un arbitro in stile FINRA per l'IA di frontiera
Demis Hassabis vuole un organismo di standardizzazione dell'IA guidato dagli Stati Uniti, modellato sulla FINRA di Wall Street, per esaminare i modelli all'avanguardia prima del rilascio e rallentare l'industria se necessario.
Dimon afferma che l'IA ha già eliminato il 30-40% dei posti di lavoro in alcune divisioni di JPMorgan.
Jamie Dimon ha detto agli analisti che l'IA ha già eliminato il 30-40% dei posti di lavoro in alcune unità di JPMorgan, ma la pressione competitiva cancellerà i guadagni di margine.
Il MatePad Air di Huawei esce finalmente dalla Cina e fa sentire l'iPad Air inadeguato.
Il MatePad Air di Huawei, lanciato a livello globale, offre un display OLED a 144Hz, una batteria enorme e accessori inclusi che evidenziano alcune omissioni sempre più imbarazzanti dell'iPad Air di Apple.
Hassabis vuole un arbitro in stile FINRA per l'IA di frontiera
Demis Hassabis vuole un organismo di standardizzazione dell'IA guidato dagli Stati Uniti, modellato sulla FINRA di Wall Street, per esaminare i modelli all'avanguardia prima del rilascio e per rallentare l'industria se necessario.