I capi deepfake stanno rovinando le videochiamate, e i ricercatori stanno cercando di smascherarli

      Vedere il proprio capo in video non prova più che siano reali

      Entrare in una riunione con il proprio capo e diversi colleghi familiari all'interno di una videoconferenza è il prossimo ambito vulnerabile ai crimini informatici, ed è tutto a causa della tecnologia deepfake. I ricercatori dell'Istituto Fraunhofer per la Sicurezza delle Tecnologie dell'Informazione SIT stanno lavorando a un sistema di allerta in tempo reale progettato per identificare tentativi di frode durante le videoconferenze aziendali.

      Il rapporto afferma che i criminali stanno sempre più prendendo di mira le riunioni video per furti d'identità e truffe finanziarie, approfittando della fiducia che le persone ripongono in volti e voci familiari. L'intenzione è quella di segnalare attività sospette mentre la riunione è ancora in corso. Questo dà a un dipendente la possibilità di fermarsi prima di seguire un'istruzione costosa da un dirigente generato dall'IA.

      Come un'intera riunione viene falsificata ora

      Riconoscimento video deepfake

      La minaccia non è così semplice da individuare ora. Non c'è una sensazione di valle inquietante o un volto singolo mal sincronizzato. I ricercatori hanno citato un caso a Hong Kong in cui un dipendente ha partecipato a una videoconferenza contenente diversi apparenti colleghi. Tutti gli altri nella riunione erano falsi. I criminali avevano presumibilmente accesso a materiale video interno e utilizzato voci generate dall'IA per impersonare dipendenti dell'azienda, persuadendo infine la vittima a trasferire quasi 24 milioni di euro. Ha scoperto la frode solo dopo aver parlato con il suo vero capo in seguito.

      Il giudizio umano offre una protezione limitata contro un allestimento convincente. Uno studio separato del 2025 ha mostrato agli studenti un video manipolato che impersonava il loro professore utilizzando uno strumento di scambio di volti in tempo reale disponibile pubblicamente. Venticinque dei 34 partecipanti, ovvero il 74%, non hanno riconosciuto che il video era stato alterato prima che i ricercatori glielo dicessero. Una volta che diversi volti familiari appaiono insieme, la loro presenza può rafforzare l'illusione e far sembrare legittima una richiesta insolita.

      Un avviso dovrebbe avviare il processo di verifica

      Fraunhofer

      La ricerca esistente di media-forensics di Fraunhofer combina l'apprendimento profondo con l'elaborazione dei segnali per cercare indizi come strutture facciali sfocate, incoerenze tra le regioni dell'immagine e altre piccole stranezze. C'è ancora motivo di trattare qualsiasi avviso con cautela.

      Un ricercatore, Martin Steinebach, ha precedentemente avvertito che i rilevatori automatici di deepfake possono produrre abbastanza errori da causare confusione quando utilizzati durante le chiamate dal vivo. Quindi il sistema che sta costruendo Fraunhofer potrebbe fornire la spinta cruciale prima che l'urgenza e un volto familiare generato dall'IA convincano qualcuno ad agire.

      Vikhyaat Vivek è un giornalista tecnologico e recensore con sette anni di esperienza nella copertura dell'hardware per consumatori, con un focus su…

      Uno studio scopre che i lettori valutano le storie scritte dall'IA più in alto, ma continuano a fidarsi di più dell'etichetta "umana"

      I ricercatori hanno anche scoperto che i lettori riuscivano a malapena a differenziare tra storie generate dall'IA e storie scritte da umani, sebbene quelli familiari con gli strumenti di IA indovinassero in modo leggermente migliore. Se pensi che scrivere con l'IA sia facile da individuare, un nuovo studio suggerisce che potresti sovrastimare la tua capacità di distinguere la differenza. I ricercatori dell'Università di Villanova hanno scoperto che i lettori faticavano a distinguere le storie generate dall'IA da quelle scritte da umani e frequentemente valutavano le versioni dell'IA più in alto. Lo studio, guidato dalla Dr.ssa Deena Skolnick Weisberg e pubblicato nella rivista Judgment and Decision Making (via The Guardian), ha chiesto a più di 1.600 partecipanti di valutare una delle sei storie brevi, tre scritte da un umano e le altre generate da ChatGPT, in base alla qualità e al coinvolgimento. Ai partecipanti è stato detto chi aveva scritto la loro storia, sebbene quell'etichetta non fosse sempre accurata.

      Leggi di più

      I modelli di IA di Anthropic e OpenAI sono stati sorpresi a violare nuovamente le regole

      Un nuovo rapporto afferma che gli agenti di IA di entrambe le aziende hanno compiuto azioni non autorizzate durante i test di sicurezza, dall'hacking di un sito web al truffare persone reali online.

      OpenAI e Anthropic hanno entrambi avuto alcune settimane difficili sul fronte della sicurezza dell'IA. OpenAI ha recentemente rivelato che i suoi modelli sono usciti da un ambiente di test e hanno hackerato Hugging Face e altre quattro organizzazioni. La notizia ha spinto Anthropic a rivedere i propri test, che hanno rivelato che Claude aveva anche ottenuto accesso non autorizzato a tre aziende. Ora, l'Istituto di Sicurezza dell'IA del Regno Unito (AISI) ha divulgato un nuovo giro di incidenti (via Wired). Ha registrato 19 azioni non autorizzate su Internet dal vivo in 122 prove di test coinvolgenti modelli di entrambe le aziende, la più seria delle quali ha visto un agente inventare false identità online per spingere codice malevolo in un vero progetto GitHub. OpenAI ha rivelato separatamente un secondo incidente in cui uno dei suoi modelli ha hackerato un vero sito web dopo che un laboratorio di terze parti gli ha erroneamente fornito accesso a Internet dal vivo.

      Leggi di più

      Le schede madri potrebbero essere il prossimo componente del PC a subire un massiccio aumento di prezzo

      Dopo l'impennata dei prezzi della RAM e dello storage, le schede madri potrebbero essere il prossimo componente del PC a diventare significativamente più costoso, secondo un nuovo rapporto sulla catena di approvvigionamento.

      Costruire un PC da zero è già diventato molto più costoso, grazie all'impennata dei prezzi della RAM e dello storage guidata dall'aumento della domanda nei data center per l'IA. Ora, un nuovo rapporto suggerisce che i prezzi delle schede madri potrebbero presto spingere i costi ancora più in alto, con schede di Asus, MSI e Gigabyte che si dice subiranno aumenti di prezzo di almeno il 50 percento. Il tuo prossimo aggiornamento del PC potrebbe diventare molto più costoso.