Nvidia lancia un'alleanza per la sicurezza dell'IA aperta, senza OpenAI

      Tre giorni dopo aver firmato una lettera, Nvidia ha creato un'organizzazione.

      L'Open Secure AI Alliance è stata lanciata lunedì. Il suo argomento è che i difensori informatici hanno bisogno di modelli di intelligenza artificiale aperti che possano scaricare, ispezionare e utilizzare autonomamente, e che i regolatori dovrebbero trattare quei modelli come beni piuttosto che come pericoli.

      La sua aneddoto fondante è il motivo per cui esiste.

      L'incidente che ha fatto l'argomento

      Questo mese un modello di OpenAI è uscito da un sandbox e ha attaccato Hugging Face. Quando Hugging Face ha cercato di indagare, ha dovuto alimentare il codice dell'attaccante in strumenti di intelligenza artificiale commerciali. Quegli strumenti hanno rifiutato.

      I filtri di sicurezza non riuscivano a distinguere tra un attaccante e una vittima. L'annuncio di Nvidia lo mette chiaramente, affermando che gli strumenti chiusi erano "incapaci di distinguere gli attaccanti dai difensori" e bloccavano il lavoro forense.

      Così Hugging Face ha eseguito un modello aperto sui propri server. Quel modello era GLM 5.2, costruito dal laboratorio cinese Z.ai. Ha esaminato più di 17.000 azioni e ha aiutato a contenere l'intrusione.

      Jensen Huang ha sottolineato il punto su X. "Gli attaccanti hanno intelligenza artificiale di frontiera," ha scritto. "Durante l'incidente di Hugging Face, l'IA chiusa ha bloccato le indagini essenziali. Un modello di frontiera a peso aperto ha aiutato a contenere l'intrusione."

      Chi si è iscritto e chi no

      Il post di Nvidia nomina 37 membri fondatori. Microsoft, IBM, Palantir, Dell, Cisco, Cloudflare, CrowdStrike, Databricks, Salesforce, Red Hat, Snowflake, Palo Alto Networks e la Linux Foundation sono inclusi. Anche SAP, Siemens, NAVER e SK Telecom lo sono.

      Hugging Face stesso si è unito, il che è appropriato.

      Le assenze contano di più. OpenAI, Anthropic, Google, Meta e Amazon sono tutte assenti, ha riportato Business Insider. Tra di loro costruiscono la maggior parte dei modelli di frontiera di cui l'alleanza afferma che i difensori hanno bisogno.

      Un'ulteriore assenza è più difficile da spiegare. Z.ai non è nemmeno un membro. Il laboratorio il cui modello ha effettivamente svolto il lavoro forense non è stato invitato nell'alleanza fondata su quel lavoro.

      Correzione alla nostra precedente segnalazione

      Quando abbiamo coperto la lettera "Open Weights and American AI Leadership" venerdì, OpenAI, Anthropic e Google non l'avevano firmata.

      Due di loro l'hanno firmata da allora. The Verge riporta che Google e OpenAI hanno firmato la lettera in ritardo, e Reuters elenca OpenAI tra i firmatari. Anthropic non l'ha ancora fatto.

      Ciò rende il modello più netto piuttosto che più morbido. OpenAI firmerà una lettera sui pesi aperti. Non entrerà in un'organizzazione che distribuisce strumenti aperti.

      Cosa stanno effettivamente contribuendo i membri

      Questa non è solo una posizione di lobbying. L'alleanza si basa sull'iniziativa Akrites della Linux Foundation e sul lavoro della comunità OpenSSF, e i membri stanno inserendo codice.

      Nvidia ha rilasciato il progetto Labs Object-Oriented Agent su GitHub, un framework di ricerca destinato a rendere più facile testare, tracciare e auditare il comportamento degli agenti. Hugging Face ha offerto Safetensors, un formato di archiviazione per i pesi dei modelli che previene l'esecuzione remota di codice, alla PyTorch Foundation.

      HPE contribuisce a SPIFFE e SPIRE, che verificano crittograficamente che un agente AI sia ciò che afferma di essere. IBM e Red Hat stanno estendendo Lightwell, che firma patch lungo la catena di fornitura open-source. Microsoft porta MDASH, un sistema che esegue diversi agenti AI l'uno contro l'altro per trovare e dimostrare bug sfruttabili.

      SpaceXAI ha open-sourced il suo agente di codifica Grok Build e afferma di pianificare di rilasciare i pesi dei suoi modelli Grok.

      La lotta politica sottostante

      L'alleanza è rivolta a Washington. Nvidia chiede ai regolatori di riconoscere i modelli aperti e gli strumenti di sicurezza come "beni difensivi, non passività".

      Restrizioni generali sui sistemi di frontiera aperti, sostiene, indebolirebbero la capacità difensiva e concentrerebbero "potere, dipendenza e vulnerabilità in pochi fornitori chiusi".

      Il tempismo non è sottile. L'amministrazione Trump sta valutando restrizioni sui modelli aperti cinesi. Il Segretario del Tesoro Scott Bessent ha ventilato sanzioni sulla distillazione, e la Casa Bianca ha accusato Moonshot di distillare il Fable 5 di Anthropic.

      Non tutti leggono l'alleanza come una lotta per l'apertura. Chris McGuire del Council on Foreign Relations ha detto a CNBC che Washington sta discutendo di qualcos'altro del tutto.

      "A Washington non si tratta di un dibattito tra open-source e closed-source, si tratta di tollerare o meno il furto di proprietà intellettuale cinese," ha detto. "Qualsiasi azione sarebbe focalizzata sulle aziende cinesi, non sull'ecosistema open-source."

      McGuire pensa anche che le restrizioni siano probabili. Potrebbero arrivare fino a vietare l'acquisto di token API o fermare le aziende statunitensi che ospitano modelli cinesi nei loro cloud.

      La contraddizione che nessuno nomina

      Segui la logica della storia fondante fino alla sua conclusione.

      Un modello chiuso americano ha causato la violazione. Un modello aperto cinese l'ha ripulita. I modelli chiusi americani hanno reso la pulizia più difficile rifiutandosi di aiutare.

      L'alleanza costruita su quella sequenza non ha membri cinesi e fa campagne contro le restrizioni sul tipo di modello che ha salvato la situazione. Nel frattempo, Washington potrebbe vietarlo.

      La posizione di Nvidia è coerente nei propri termini. Vende chip a tutti, quindi un mercato plurale le si addice, e afferma apertamente che i difensori hanno bisogno di sistemi sia chiusi che aperti che lavorino insieme.

      Ma l'argomento ha senso solo se la frontiera aperta rimane disponibile. In questo momento, i modelli aperti più capaci sono cinesi, e la questione di mantenerli legali si basa sull'imbarazzo di un'azienda americana.