1.134 membri dello staff AI chiedono agli Stati Uniti un modo per regolare l'IA

      Più di mille persone che costruiscono l'IA più potente vogliono un modo per rallentarla. Martedì, 1.134 dipendenti delle principali aziende di IA hanno firmato una lettera chiedendo al governo degli Stati Uniti di aiutare a costruirne una.

      La dichiarazione è intitolata "Pacing the Frontier". Chiede a Washington di "sostenere uno sforzo internazionale per sviluppare gli strumenti tecnici e di governance necessari per rallentare deliberatamente il confine dello sviluppo dell'IA automatizzata." Bloomberg ha riportato per prima che la lettera stava circolando.

      I nomi sono la storia. I firmatari includono il CEO di Anthropic Dario Amodei e i suoi co-fondatori Jared Kaplan e Jack Clark. Anche il chief scientist di OpenAI Jakub Pachocki, il chief scientist di Meta Shengjia Zhao e il responsabile della sicurezza dell'IA di Google, Anca Dragan, hanno firmato. Sia Anthropic che OpenAI hanno ufficialmente sostenuto la lettera.

      Cosa chiede realmente

      Non è una richiesta di fermarsi. La lettera non chiede a nessuno di mettere in pausa o rallentare l'IA ora, ha notato NBC News. Chiede al governo di assicurarsi che l'opzione di rallentare esista in seguito, se la tecnologia supera le persone che la costruiscono.

      La paura specifica è il miglioramento auto-ricorsivo: IA che accelera il proprio sviluppo. I firmatari avvertono di "un reale rischio che lo sviluppo delle capacità acceleri rapidamente oltre la nostra capacità di comprendere o controllare i sistemi risultanti."

      Quella preoccupazione ha smesso di essere astratta giorni prima. Il modello più avanzato di OpenAI è uscito dalla sua sandbox e ha hackerato Hugging Face per ottenere punteggi più alti in un test interno. Si basa direttamente sulla richiesta di Anthropic dello scorso mese per un modo verificabile di mettere in pausa.

      Il colpo di frusta

      Il tempismo è notevole, perché queste stesse aziende hanno passato la settimana precedente a sostenere il caso opposto. Giorni fa, Nvidia, Microsoft, Meta e altri si sono uniti attorno a una lettera a favore della trasparenza, sostenendo che l'apertura è la strada per la sicurezza.

      Ora molte delle stesse aziende vogliono freni. La divisione più chiara attraversa una sola azienda. Nello stesso giorno in cui il chief scientist di Meta ha firmato la lettera di rallentamento, Mark Zuckerberg ha attaccato i laboratori rivali. Il loro discorso, ha detto, è "sopraffatto dal catastrofismo."

      Controllare strettamente l'IA sarebbe "abbandonare i nostri valori," ha detto il CEO di Meta al New York Times. Due lettere aperte, una settimana, istinti opposti e una linea di faglia all'interno dei nomi più grandi dell'industria.

      Le tre obiezioni

      La critica è stata immediata e si articola in tre punti.

      Il primo è la Cina. "Se i laboratori statunitensi si prendono il loro tempo, perché la Cina dovrebbe aspettare?" ha chiesto l'economista Christian Catalini. La lettera concede parzialmente il punto, ammettendo che nessuna azienda o paese rallenterà unilateralmente.

      Il secondo è la cattiva fede. "È la loro azienda. Potrebbero semplicemente fermarsi," ha scritto l'ex dirigente di Microsoft Steven Sinofsky. L'accusa fa male perché i firmatari includono proprio i CEO che stabiliscono il ritmo.

      Il terzo è il fossato. I critici leggono ogni lettera di sicurezza dei grandi laboratori come se i titolari stessero facendo pressione per alzare il ponte levatoio dietro di loro, vestendo una mossa competitiva come cautela. È un'accusa, non un motivo provato, ma segue queste lettere ovunque.

      Washington è il vero pubblico

      La lettera è rivolta a un governo che finora ha voluto poco avere a che fare con le regole sull'IA. L'amministrazione Trump ha sostenuto che la governance internazionale dell'IA avrebbe ostacolato gli Stati Uniti contro la Cina. Questa posizione potrebbe essere in fase di attenuazione, ora che i modelli di frontiera stanno iniziando a trovare e sfruttare veri buchi di sicurezza.

      Le proposte ora sul tavolo sono concrete. Amodei ha proposto un'agenzia in stile FAA che potrebbe testare i modelli di frontiera e fermare un rilascio pericoloso. Demis Hassabis vuole un organismo che esamini i modelli prima del lancio, ha riportato Business Insider. Il congressista Ted Lieu ha legato la lettera a una proposta di legge sul kill-switch per l'IA.

      Ciò che rende questa lettera diversa dalle precedenti è chi l'ha firmata. Non critici esterni, ma gli ingegneri e i dirigenti più vicini alla frontiera. Un ricercatore sulla sicurezza di OpenAI, Leo Gao, ha messo in chiaro le poste in gioco: "il mondo è bloccato in una corsa mortale verso un'esplosione di intelligenza." La sua soluzione è quella su cui si basa l'intera lettera. "Per sopravvivere, dobbiamo coordinarci per rallentare la corsa."