Dario Amodei di Anthropic afferma che l'azienda non ha mai chiesto di vietare i modelli di intelligenza artificiale a peso aperto.

      TL;DR Amodei afferma che Anthropic non ha mai chiesto di vietare i modelli a pesi aperti. Sostiene il controllo delle esportazioni di chip, la repressione della distillazione e test di sicurezza obbligatori per tutti i modelli sufficientemente capaci, aperti e chiusi. Dario Amodei ha pubblicato la posizione formale di Anthropic sui modelli a pesi aperti domenica, rompendo un silenzio che aveva suscitato accuse secondo cui l'azienda voleva vietare l'IA a pesi aperti per proteggere il proprio business. “Anthropic non ha mai sostenuto un divieto sui modelli a pesi aperti,” ha scritto Amodei. “I modelli a pesi aperti che non hanno capacità pericolose sono un bene pubblico.” Il post è arrivato dopo che Jensen Huang di Nvidia e dozzine di aziende tecnologiche hanno firmato una lettera aperta a sostegno dei pesi aperti, e dopo che funzionari statunitensi hanno riportato di aver considerato di vietare i modelli a pesi aperti cinesi. Amodei ha delineato tre misure che sostiene invece di un divieto. Prima, far rispettare i controlli sulle esportazioni di chip e reprimere il “contrabbando dilagante” utilizzato per portare chip avanzati in Cina, perché senza chip statunitensi, le leggi di scalabilità impediscono alla Cina di addestrare modelli più potenti di quelli americani. Secondo, fermare le operazioni di distillazione su scala industriale che consentono ai laboratori cinesi di costruire modelli capaci a un costo molto inferiore rispetto all'addestramento da zero. Terzo, test di sicurezza obbligatori per tutti i modelli sufficientemente capaci, aperti e chiusi, indipendentemente dal paese di origine, con modelli meno capaci provenienti da startup e accademia esentati completamente. Riguardo alla lettera aperta sostenuta da Nvidia, Amodei ha concordato che i pesi aperti ampliano l'accesso e la concorrenza, ma ha dissentito sul fatto che necessariamente aiutino di più i difensori rispetto agli attaccanti. Ha citato le armi biologiche come l'esempio più incisivo: un modello sufficientemente capace potrebbe armare rapidamente un virus di livello pandemico utilizzando materiali ampiamente disponibili, mentre la difesa contro tali agenti richiede anni. TNW ha riportato la scorsa settimana che il silenzio di Anthropic sulla lettera a pesi aperti stava diventando evidente poiché l'azienda aveva subito il danno commerciale più diretto dalla distillazione. Questo post è la risposta. Il punto della distillazione è il più carico commercialmente. Anthropic ha accusato il laboratorio Qwen di Alibaba di condurre la più grande campagna di distillazione mai realizzata contro Claude, utilizzando 25.000 account falsi per 29 milioni di scambi. Amodei ha riconosciuto che reprimere la distillazione è “sfidante” perché gli account possono spesso essere identificati solo dopo che è avvenuta una sostanziale distillazione. Ha chiesto un intervento politico piuttosto che fare affidamento sull'applicazione da parte di un singolo azienda. La posizione è costruita con attenzione: Anthropic non è contro i pesi aperti, è contro i pesi aperti costruiti rubando dai suoi modelli chiusi, addestrati su chip contrabbandati e rilasciati senza test di sicurezza. Se quella distinzione sopravvive all'appetito di Washington per narrazioni più semplici è la questione politica a cui il post è stato scritto per rispondere.

      Get the TNW newsletter

      Ricevi le notizie tecnologiche più importanti nella tua casella di posta ogni settimana.