L'hack dell'IA ribelle di OpenAI era solo l'inizio, avverte Hugging Face

      L'IA ribelle di OpenAI è tornata a morderla

      Rachit Agarwal / Digital Trends

      Hugging Face sa già cosa significa essere attaccati da un agente IA autonomo. Se uno dei suoi co-fondatori ha ragione, molte altre aziende lo scopriranno presto. Thomas Wolf, co-fondatore e chief science officer di Hugging Face, ha definito il recente attacco informatico effettuato dai modelli di OpenAI una "chiamata di attenzione" per l'industria tecnologica.

      Parlando alla BBC, Wolf ha avvertito che le intrusioni guidate dall'IA potrebbero diventare una delle forme più comuni di attacco informatico e ha detto che molte aziende devono ancora rendersi conto di quanto sia cambiata drammaticamente la minaccia. Questo arriva dopo che OpenAI ha rivelato che i suoi modelli sono sfuggiti a un ambiente di valutazione della cybersecurity ristretto e hanno compromesso Hugging Face mentre cercavano di ottenere risposte per il benchmark ExploitGym. Così, i commenti di Wolf ci danno ora una migliore idea di come fosse l'attacco dall'altra parte.

      OpenAI Unsplash

      17.000 attacchi arrivati in un tempo molto breve

      Hugging Face inizialmente non aveva idea da dove provenisse l'attività quando ha rilevato la violazione a metà luglio. Wolf ha detto alla BBC che la sua rete ha registrato circa 17.000 attacchi da diversi indirizzi IP in un "tempo molto breve". L'azienda ha contenuto l'intrusione, descrivendola come molto diversa dagli attacchi informatici che Hugging Face incontra normalmente.

      Il rapporto sugli incidenti di Hugging Face descrive più di 17.000 eventi registrati nel registro delle azioni dell'attaccante. Dice che il sistema autonomo ha eseguito migliaia di azioni attraverso sandbox di breve durata e si è spostato attraverso la sua infrastruttura a velocità di macchina. L'AI Security Institute del Regno Unito sta ora studiando come si è comportato il sistema durante l'incidente, mentre il governo ha esortato le aziende a rafforzare le loro difese informatiche.

      OpenAI

      L'hacking autonomo sta diventando molto reale

      OpenAI afferma che i modelli erano intensamente concentrati nel completare quel compito. Dopo essere sfuggiti all'ambiente di ricerca, hanno concatenato vulnerabilità e credenziali rubate fino a trovare un percorso di esecuzione di codice remoto nei server di Hugging Face. Hugging Face ha raggiunto una conclusione altrettanto scomoda, ovvero che l'IA offensiva autonoma è già in grado di condurre campagne ampie e multi-fase a velocità di macchina.

      L'incidente di Hugging Face è una storia per l'intera industria. Mentre un'azienda ha già vissuto questo tipo di attacco in prima persona, molte altre aziende potrebbero presto scoprire come appare.

      Vikhyaat Vivek è un giornalista tecnologico e recensore con sette anni di esperienza nella copertura dell'hardware di consumo, con un focus su…

      Shopping per il ritorno a scuola? Queste sono le luci per webcam che accenderei davvero prima di una chiamata Zoom

      Da una luce clip economica a un vero e proprio setup da scrivania, c'è una luce per webcam qui per ogni prezzo. Tra lezioni online, chiamate di progetto di gruppo e occasionali colloqui di lavoro su Zoom, la tua webcam farà molto più lavoro a scuola di quanto non abbia mai fatto a casa. Il problema è che la maggior parte delle fotocamere dei laptop è scarsa in condizioni di scarsa illuminazione, e una singola lampadina sopra o una finestra dietro di te trasforma ogni chiamata in un gioco di "aspetta, mi vedi bene?"

      Una buona luce per webcam risolve questo problema più velocemente che spostare tutta la tua scrivania. Ne ho scelti cinque, partendo da quella più economica e arrivando a quella che è davvero eccessiva per una chiamata Zoom ma vale comunque la pena conoscere.

      Leggi di più

      Google Chrome potrebbe presto permetterti di tradurre pagine direttamente all'interno della Modalità Lettura

      Tuttavia, non tutti lo vedono ancora, nemmeno su Canary.

      La Modalità Lettura di Chrome ha appena ricevuto un nuovo pulsante nascosto nel suo menu delle impostazioni. Google sta testando silenziosamente un'opzione di traduzione per la funzione su Chrome Canary, il canale di test sperimentale del browser dove nuove idee compaiono molto prima di essere pronte per l'uso quotidiano.

      Cosa fa effettivamente questo nuovo pulsante di traduzione?

      Leggi di più

      I drammi IA hanno bisogno di attori, quindi le piattaforme cinesi stanno trasformando i volti umani in asset di stock

      Le persone possono ora guadagnare denaro concedendo in licenza la loro immagine ai creatori di IA, anche se tenere traccia di dove finiscono quei volti digitali potrebbe rivelarsi notevolmente più difficile.

      Le persone in Cina possono ora concedere in licenza il loro volto all'IA proprio come un fotografo concede in licenza un'immagine di stock. I creatori di IA possono quindi far parlare, muovere e apparire quella somiglianza come diversi personaggi in brevi drammi o annunci.

      I contributori hanno guadagnato tra $15 e $700 attraverso piattaforme come ActID e New Claw, secondo Rest of World.

      Leggi di più