Il fondatore di Zhipu sostiene l'importanza dell'IA a frontiera aperta

      Il fondatore del laboratorio di intelligenza artificiale più importante della Cina ha fatto un caso inequivocabile per l'apertura. L'IA di frontiera dovrebbe rimanere ampiamente accessibile piuttosto che controllata da pochi selezionati, ha scritto Tang Jie di Zhipu in un memo interno esaminato da Bloomberg.

      Il suo argomento inverte la logica di sicurezza abituale. La vera sicurezza deriva dalla partecipazione ampia, dalla condivisione e dalla supervisione, ha detto, non da barriere tecnologiche.

      Zhipu ha sostenuto questo con i prodotti. Ha rilasciato GLM-5.2 sotto una licenza open-source, gratuito da scaricare e commercializzare.

      Il tempismo scomodo

      Tang ha fatto i commenti poco dopo che Reuters ha riportato che Pechino sta considerando l'opposto. I funzionari cinesi stanno valutando limiti all'accesso estero ai modelli aperti più avanzati del paese.

      Il 💜 della tecnologia dell'UE Gli ultimi rumori dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora! Questo mette il fondatore di Zhipu in contrasto con la direzione di viaggio nella sua stessa capitale. L'apertura è stata il vantaggio strategico della Cina, e ora il suo governo si sta chiedendo se abbia dato via troppo.

      L'azienda ha motivi commerciali per voler mantenere la porta aperta. I suoi modelli si sono diffusi a livello globale proprio perché sono gratuiti, e i modelli cinesi economici stanno ora avvicinandosi ai laboratori di frontiera statunitensi.

      Ciò non rende l'argomento sbagliato. Significa che la persona che lo presenta ha da guadagnare da esso, il che è vero per quasi tutti in questo dibattito.

      Il caso che sta facendo

      L'argomento della sicurezza open-source non è marginale. La sua logica è che molti occhi indipendenti su un sistema trovano difetti più velocemente di un piccolo team dietro un muro.

      I difensori fanno lo stesso punto. Quando Washington ha ristretto un modello di frontiera, 100 esperti di cybersecurity hanno firmato una lettera aperta sostenendo che il divieto danneggiava di più i difensori che gli attaccanti.

      Gli attaccanti, hanno argomentato, otterranno modelli capaci indipendentemente. Le persone escluse sono i ricercatori e i team di sicurezza che cercano di tenere il passo.

      Il caso contro

      Il campo chiuso ha una risposta semplice. Un modello open-weight non può essere richiamato, patchato o spento una volta scaricato.

      Pubblicare capacità di frontiera significa pubblicarle per tutti, comprese le persone che costruiscono armi biologiche o attacchi informatici su scala industriale. Le salvaguardie addestrate in un modello possono essere rimosse da chiunque abbia i pesi e un budget modesto.

      Entrambi i lati stanno descrivendo rischi reali. Il disaccordo riguarda quale rischio sia maggiore, e non c'è ancora una risposta empirica chiara.

      Perché è importante ora

      Zhipu non è più una curiosità. Ha raccolto miliardi, è quotata a Hong Kong e la sua vendita di azioni ha attirato una forte domanda da parte degli investitori che scommettono che l'IA cinese colmerà il divario lasciato dai modelli statunitensi ristretti.

      Quindi la domanda non è più accademica. Se la Cina restringe i suoi modelli aperti, la principale fonte mondiale di IA di classe frontiera si chiude contemporaneamente a quella degli Stati Uniti.

      Tang sta argomentando contro questo risultato dall'interno del paese più probabile a causarlo. Se qualcuno a Pechino sta ascoltando è la parte che non può controllare.