Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic.

Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic.

      Anthropic disabilita Fable 5 e Mythos 5 dopo la direttiva del governo degli Stati Uniti

      Nadeem Sarwar / Digital Trends

      I problemi di Anthropic con il governo degli Stati Uniti non sembrano alleviarsi. L'azienda è stata ora ordinata di sospendere l'accesso a Fable 5 e Mythos 5 per tutti i cittadini stranieri, compresi i dipendenti stranieri di Anthropic che lavorano negli Stati Uniti.

      Anthropic ha dichiarato di aver ricevuto la direttiva il 12 giugno e sta disabilitando i due modelli per tutti i clienti per conformarsi. Altri modelli di Anthropic non sono interessati. Il governo non ha spiegato pubblicamente il pieno motivo di preoccupazione per la sicurezza nazionale, ma Anthropic afferma di comprendere che l'ordine è legato a un metodo riportato per eludere, o fare il jailbreak, delle protezioni di Fable 5.

      Un nuovo scontro dopo la disputa con il Pentagono

      Questa non è la prima seria contrapposizione di Anthropic con Washington. All'inizio di quest'anno, l'azienda è stata coinvolta in una disputa con il Pentagono dopo aver rifiutato di rimuovere le restrizioni che impedivano a Claude di essere utilizzato per armi completamente autonome e sorveglianza di massa domestica. Quella lotta ha portato a accuse di inserimento in liste nere e azioni legali, mettendo la posizione di sicurezza prima di tutto di Anthropic in diretto contrasto con alcune parti del governo degli Stati Uniti.

      Digital Trends

      La recente direttiva rimette Anthropic in una posizione familiare. I funzionari sono preoccupati per l'accesso a potenti sistemi di intelligenza artificiale, mentre Anthropic sostiene che le sue protezioni vengono fraintese o giudicate secondo uno standard irrealistico.

      Perché Fable 5 è diventato una preoccupazione

      La preoccupazione attorno a Fable 5 è legata alle avanzate capacità di cybersicurezza di Mythos 5. Anthropic ha dichiarato che i modelli di classe Mythos possono scoprire e sfruttare vulnerabilità software, e Mythos 5 è stato riportato come testato dalla NSA e da altri valutatori legati al governo prima del rilascio più ampio. Anche se quelle capacità possono aiutare i team di sicurezza a identificare e risolvere le debolezze, creano anche preoccupazioni per la sicurezza nazionale se vengono utilizzate per scopi offensivi o malevoli.

      RyanDonegan / Flickr

      Fable 5 è stato rilasciato solo pochi giorni fa come versione pubblica di Mythos 5 con guardrail più rigorosi. Anthropic ha dichiarato che è stato progettato per bloccare o reindirizzare query sensibili relative alla cybersicurezza e alla biologia a Opus 4.8.

      Anthropic afferma che il bypass riportato ha solo messo in luce vulnerabilità minori, già note, e che altri modelli pubblici possono fare cose simili. Tuttavia, con un argomento così sensibile come la cybersicurezza, la cautela non è irragionevole. Se Mythos 5 è in grado di identificare vulnerabilità software a un alto livello, allora le sue protezioni non possono essere semplicemente sufficienti. Devono essere ermetiche. Anthropic può sostenere che il jailbreak riportato fosse limitato, ma la preoccupazione del governo questa volta è più facile da comprendere. In questo caso, "meglio essere prudenti che dispiaciuti" potrebbe essere la posizione più difendibile del governo.

Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic. Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic. Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic. Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic. Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic. Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic. Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic.

Altri articoli

Windows 11 finalmente trova i file quando digiti due caratteri invece di tre Windows 11 finalmente trova i file quando digiti due caratteri invece di tre L'aggiornamento di Patch Tuesday di Microsoft di giugno consente a Windows Search di trovare file con solo due caratteri e classifica i file locali sopra i risultati web e i suggerimenti di Copilot. L'FBI ha costruito una città finta per addestrare gli agenti agli attacchi informatici. Ha un ospedale, una compagnia elettrica e 200 server. L'FBI ha costruito una città finta per addestrare gli agenti agli attacchi informatici. Ha un ospedale, una compagnia elettrica e 200 server. Il Kinetic Cyber Range dell'FBI è una replica di una città di 22.000 piedi quadrati a Huntsville con case, un ospedale e un centro dati. Simula attacchi ransomware su sistemi attivi. Final Fantasy VII Revelation è stato realizzato in tre anni perché il 95% del team è rimasto. Final Fantasy VII Revelation è stato realizzato in tre anni perché il 95% del team è rimasto. FF7 Revelation ha impiegato 3 anni invece dei soliti 5+ perché il 95% del team di sviluppo è rimasto da Rebirth. In un'industria che perde talenti, questa è la lezione. Andrew Yang dice che la prossima ondata di startup non consiste nel costruire intelligenza artificiale. Consiste nel ridurre il costo della vita. Andrew Yang dice che la prossima ondata di startup non consiste nel costruire intelligenza artificiale. Consiste nel ridurre il costo della vita. Yang sostiene che mentre l'IA comprime i salari, l'opportunità è per le startup che riducono i costi per i consumatori. Il suo Noble Mobile restituisce denaro. Gli investitori vogliono invece l'IA. I conducenti cinesi hanno trovato un modo sciocco per ingannare il Tesla Autopilot e coinvolge teste di bambole. I conducenti cinesi hanno trovato un modo sciocco per ingannare il Tesla Autopilot e coinvolge teste di bambole. I proprietari cinesi di Tesla stanno riportando di utilizzare teste di bambole in miniatura, foto e schermi lampeggianti per ingannare le telecamere di monitoraggio del conducente dell'Autopilot, facendole credere che stiano prestando attenzione. Final Fantasy VII Revelation è stato realizzato in tre anni perché il 95% del team è rimasto. Final Fantasy VII Revelation è stato realizzato in tre anni perché il 95% del team è rimasto. FF7 Revelation ha impiegato 3 anni invece dei soliti 5+ perché il 95% del team di sviluppo è rimasto da Rebirth. In un'industria che perde talenti, questa è la lezione.

Il governo degli Stati Uniti ha appena messo il freno sui modelli di intelligenza artificiale più potenti di Anthropic.

Anthropic ha disabilitato l'accesso a Fable 5 e Mythos 5 dopo che una direttiva del governo degli Stati Uniti ha sollevato preoccupazioni per la sicurezza nazionale riguardo a possibili jailbreak e uso improprio informatico.