OpenAI sta indagando su ulteriori incidenti di agenti AI che sono impazziti giorni dopo l'hack.

      Rachit Agarwal / Digital Trends

      

      

      

       Sembra che la storia degli “agenti AI che vanno fuori controllo” abbia più sfaccettature di quelle rivelate finora pubblicamente dai giganti dell'AI. Solo pochi giorni dopo che OpenAI ha annunciato che i suoi agenti AI erano andati fuori controllo e avevano hackerato Hugging Face, Anthropic ha lanciato una bomba simile. Presto, è stato scoperto che non solo uno, ma più servizi erano stati compromessi. Bene, sembra che ci siano ancora più strati in questa vicenda.

      Reuters riporta che OpenAI ha trovato ulteriori incidenti di agenti AI che sfuggono al loro ambiente di contenimento software durante la ricerca. Citando fonti a conoscenza dell'incidente, l'agenzia nota che gli agenti AI non sono andati oltre l'ambiente software di OpenAI e non hanno influenzato alcun servizio esterno.

      ChatGPT Unsplash

      “I nuovi casi di fuoriuscita sono stati scoperti durante l'indagine pubblicamente annunciata dall'azienda, aprendo una nuova finestra su come uno dei suoi agenti sia sfuggito a quello che doveva essere un ambiente di test contenuto questo mese, hanno detto le due persone, e OpenAI sta ora esaminando anche quegli episodi,” afferma il rapporto.

      La recente serie di incidenti potrebbe aprire un intero nuovo vaso di Pandora di problemi per queste aziende di AI, mentre si confrontano con una forte reazione contro la proliferazione di centri dati affamati di energia negli Stati Uniti e il loro presunto impatto ambientale.

      Il capo di OpenAI Sam Altman e il CEO di Anthropic Dario Amodei. Reuters

      Inoltre, il controllo sta diventando sempre più approfondito. “Stiamo esaminando i controlli,” ha detto il presidente Trump ai giornalisti quando gli è stato chiesto dell'incidente di hacking dell'agente OpenAI. Separatamente, l'UE sta anche discutendo gli incidenti con OpenAI e Anthropic, ed è probabile che presto vengano redatte nuove normative che coprano i sistemi AI autonomi ad alto rischio.

      Gli incidenti potrebbero anche aprire un nuovo tipo di sfida legale per la supervisione dell'AI negli Stati Uniti. Gli esperti dicono a WIRED che idealmente, le aziende dietro questi agenti AI dovrebbero essere ritenute responsabili anche se un agente AI autonomo sfugge ai limiti e provoca caos. Sfortunatamente, il quadro giuridico è ancora poco chiaro.

      

      

      

      

      

      

      

      

      

      

      

       Nadeem è il direttore responsabile di Digital Trends.

      

      

      

      

      

      

       Le storie di AI scadente rovinano l'infanzia

      

       I nonni regalano libri di storie generati da AI ai bambini, ed è semplicemente disgustoso.

      

       AI scadente, il termine colloquiale per contenuti generati da AI a basso sforzo, è emerso come un enorme problema in diversi settori. Le etichette musicali stanno combattendo con i servizi di streaming per mettere un'etichetta AI su tali tracce. Le case editrici sono diffidenti nei confronti delle bozze scritte da AI. Le riviste di ricerca sono sepolte sotto un diluvio di articoli generati da AI. L'industria del software è in crisi sotto la pressione di app codificate in modo superficiale piene di difetti di sicurezza. Anche Apple sta lottando contro un'ondata di segnalazioni di bug create utilizzando AI. Naturalmente, il disprezzo nei confronti dell'AI è piuttosto ovvio, ma ora c'è una nuova dimensione in questo.

      I boomers stanno regalando libri generati da AI ai loro nipoti.

      

       Leggi di più

      

      

      

       Il MacBook Air è in breve disponibilità, nonostante un aumento di prezzo

      

       La crisi della memoria sta ora interrompendo le forniture di MacBook Air

      

       Per mesi, Apple sembrava meglio protetta dalla crisi della memoria rispetto alla maggior parte dei produttori di laptop. Aveva contratti di fornitura a lungo termine, un enorme potere d'acquisto e un margine sufficiente per assorbire l'aumento dei costi dei componenti. La situazione ora ha raggiunto il suo laptop più popolare.

      Secondo Mark Gurman di Bloomberg, la disponibilità del MacBook Air si è notevolmente ridotta in tutta la rete di vendita al dettaglio di Apple. Diverse configurazioni mostrano stime di consegna che si estendono fino alla fine di agosto, mentre alcuni modelli personalizzati potrebbero non arrivare fino a settembre.

      

       Leggi di più

      

      

      

       L'AI sta trovando difetti di sicurezza di Apple più velocemente di quanto Apple possa esaminarli

      

       Apple ha limitato il numero di segnalazioni di bug che i ricercatori possono tenere aperte mentre gli strumenti AI producono sia vulnerabilità genuine di Mac che un'ondata di sottomissioni discutibili

      

       Apple ha fissato un limite al numero di rapporti di sicurezza che i ricercatori possono tenere aperti contemporaneamente dopo che la caccia ai bug da parte dell'AI ha messo sotto pressione il suo processo di revisione, secondo il Financial Times.

      Al alcune sottomissioni descrivono rischi allucinati o puramente teorici. Altre rivelano vulnerabilità abbastanza gravi da richiedere patch. Bynario ha detto al FT che ha trovato più di 50 possibili difetti di macOS in tre settimane, inclusa una catena di escalation dei privilegi che potrebbe dare a un attaccante il pieno controllo di un Mac.

      

       Leggi di più