Claude Fable 5 restrizioni: mirate alla Cina, colpite le ricercatori di intelligenza artificiale

      Anthropic ha costruito le restrizioni di Claude Fable 5 per tenere fuori i laboratori di intelligenza artificiale cinesi dal suo modello pubblico più potente. Le lamentele più forti sono arrivate dalla propria parte del firewall.

      Il 9 giugno, Anthropic ha rilasciato Claude Fable 5, una versione addomesticata e rivolta al pubblico di Mythos, il modello che aveva trattenuto da aprile a causa della sua capacità di trovare e sfruttare le vulnerabilità di sicurezza.

      Fable 5, ha detto l'azienda, era “sicuro per un uso generale.” Al suo interno era integrato un insieme di classificatori che segnalano richieste relative alla cybersicurezza, biologia, chimica, distillazione e sviluppo di modelli all'avanguardia, per poi instradarle silenziosamente al secondo miglior modello di Anthropic, Claude Opus 4.8.

      La parola che ha causato problemi è stata “silenziosamente.” Secondo la scheda di sistema di Anthropic, le interventi che limitano lo “sviluppo di LLM all'avanguardia” non sarebbero stati “visibili all'utente.” I ricercatori di intelligenza artificiale hanno detto di essere stati silenziosamente declassati, o shadowbannati, nel momento in cui Fable 5 ha deciso che il loro lavoro di machine learning sembrava troppo simile a un tentativo di costruire un rivale.

      “Sembrava che Anthropic stesse dicendo al pubblico, non ci fidiamo di nessun altro per fare ricerca sull'IA,” ha detto Will Brown, responsabile della ricerca presso Prime Intellect, a Wired. La società di ricerca SemiAnalysis ha affermato che il modello stava degradando il suo lavoro di inferenza GPU.

      Le obiezioni sono arrivate da sostenitori dell'open-source che di solito definiscono Anthropic troppo chiusa, e da ricercatori sulla sicurezza che di solito la difendono.

      Anthropic ha fatto marcia indietro entro due giorni. “Stiamo cambiando le misure di sicurezza di Fable 5 per lo sviluppo di LLM all'avanguardia per renderle visibili,” ha detto. “Abbiamo fatto il trade-off sbagliato e ci scusiamo per non aver trovato il giusto equilibrio.” Tuttavia, la soluzione è stata la divulgazione. La restrizione è rimasta.

      Cosa fanno ancora le restrizioni di Claude Fable 5 alla Cina

      Per quanto riguarda l'accesso, gli esperti pensano che la restrizione funzioni. “Gli sviluppatori di IA cinesi potrebbero trovare quasi impossibile ora utilizzare l'ultimo modello di Anthropic per accelerare lo sviluppo dei propri modelli,” ha detto Kyle Chan, un ricercatore presso il Brookings Institution, al South China Morning Post. Claude non è mai stato ufficialmente venduto in Cina, ma gli sviluppatori lì hanno a lungo fatto affidamento su soluzioni alternative.

      I classificatori di Fable 5 sono molto più difficili da aggirare.

      Anthropic afferma che quelle soluzioni alternative erano industriali. A febbraio ha accusato DeepSeek, Moonshot e MiniMax di aver gestito più di 16 milioni di scambi attraverso circa 24.000 account fraudolenti per distillare il codice e il ragionamento di Claude. La Casa Bianca ha ripreso il tema ad aprile, definendo le campagne furto su scala industriale.

      La dipendenza funziona in entrambe le direzioni

      Poi il quadro si inverte. Le aziende statunitensi stanno sempre più cercando DeepSeek cinese perché è economico, mentre gli sviluppatori cinesi continuano a comprare Claude sul mercato grigio attraverso “stazioni di trasferimento” proxy che lo rivendono su Taobao e Telegram a prezzi che possono essere anche un decimo del prezzo di listino, secondo l'Oxford China Policy Lab.

      Pechino è impegnata a costruire muri propri: questa settimana Meta ha iniziato a smantellare il suo acquisto da 2 miliardi di dollari di Manus, la startup fondata in Cina e con sede a Singapore, dopo che i regolatori hanno ordinato di annullare l'accordo chiuso.

      I critici vedono meno principio che protezionismo, notando che Anthropic ha addestrato Claude su testi protetti da copyright prima di iniziare a controllare l'estrazione di altri. Le restrizioni arrivano anche mentre Anthropic si dirige verso il mercato pubblico, avendo presentato in modo riservato una domanda di IPO a una valutazione di 965 miliardi di dollari.

      Un modello troppo aperto invita alla distillazione; un modello troppo chiuso invita alla reazione che Fable 5 ha appena innescato. Anthropic ha tracciato la sua linea. Se i classificatori possono mantenerla, quando la prima versione è durata a malapena due giorni, è la domanda che i suoi rivali su entrambi i lati del Pacifico stanno già testando.