Il fondatore di Zhipu sostiene l'AI a frontiera aperta

      Il fondatore del laboratorio di intelligenza artificiale più prominente della Cina ha presentato un caso inequivocabile per l'apertura. L'IA di frontiera dovrebbe rimanere ampiamente accessibile piuttosto che controllata da pochi selezionati, ha scritto Tang Jie di Zhipu in una nota interna esaminata da Bloomberg.

      Il suo argomento inverte la consueta logica di sicurezza. La vera sicurezza deriva dalla partecipazione ampia, dalla condivisione e dalla supervisione, ha detto, non da barriere tecnologiche.

      Zhipu ha sostenuto questo con i prodotti. Ha rilasciato GLM-5.2 sotto una licenza open-source, gratuito da scaricare e commercializzare.

      Il tempismo scomodo

      Tang ha fatto i commenti poco dopo che Reuters ha riportato che Pechino sta considerando l'opposto. I funzionari cinesi stanno valutando limiti all'accesso estero ai modelli aperti più avanzati del paese.

      Il 💜 della tecnologia dell'UE

      Le ultime voci dalla scena tecnologica dell'UE, una storia del nostro saggio fondatore Boris e alcune opere d'arte AI discutibili. È gratuito, ogni settimana, nella tua casella di posta. Iscriviti ora!

      Questo mette il fondatore di Zhipu in contrasto con la direzione di marcia nella sua stessa capitale. L'apertura è stata il vantaggio strategico della Cina, e ora il suo governo si sta chiedendo se abbia dato via troppo.

      L'azienda ha motivi commerciali per voler mantenere la porta aperta. I suoi modelli si sono diffusi a livello globale proprio perché sono gratuiti, e i modelli cinesi economici stanno ora avvicinandosi ai laboratori di frontiera statunitensi.

      Ciò non rende l'argomento sbagliato. Significa solo che la persona che lo presenta ha da guadagnare da esso, il che è vero per quasi tutti in questo dibattito.

      Il caso che sta presentando

      L'argomento della sicurezza open-source non è marginale. La sua logica è che molti occhi indipendenti su un sistema trovano difetti più rapidamente di un piccolo team dietro un muro.

      I difensori fanno lo stesso punto. Quando Washington ha ristretto un modello di frontiera, 100 esperti di cybersecurity hanno firmato una lettera aperta sostenendo che il divieto danneggiava di più i difensori che gli attaccanti.

      Gli attaccanti, hanno sostenuto, otterranno modelli capaci indipendentemente. Le persone escluse sono i ricercatori e i team di sicurezza che cercano di tenere il passo.

      Il caso contro

      Il campo chiuso ha una risposta semplice. Un modello open-weight non può essere richiamato, aggiornato o spento una volta scaricato.

      Pubblicare capacità di frontiera significa pubblicarle a tutti, comprese le persone che costruiscono armi biologiche o attacchi informatici su scala industriale. Le misure di sicurezza addestrate in un modello possono essere rimosse da chiunque abbia i pesi e un budget modesto.

      Entrambi i lati stanno descrivendo rischi reali. Il disaccordo riguarda quale rischio sia maggiore, e non c'è ancora una risposta empirica chiara.

      Perché è importante ora

      Zhipu non è più una curiosità. Ha raccolto miliardi, è quotata a Hong Kong e la sua vendita di azioni ha attirato una forte domanda da parte degli investitori che scommettono che l'IA cinese colmi il divario lasciato dai modelli statunitensi ristretti.

      Quindi la questione non è più accademica. Se la Cina restringe i suoi modelli aperti, la principale fonte mondiale di IA di classe frontiera si chiude contemporaneamente a quella americana.

      Tang sta argomentando contro quel risultato dall'interno del paese più probabile a causarlo. Se qualcuno a Pechino sta ascoltando è la parte che non può controllare.