Una rete di account X sta potenziando gli strumenti di nudificazione dell'IA, creando problemi per le vittime.

      I ricercatori affermano che gli account X coordinati stanno aiutando le app di nudificazione AI a eludere la moderazione e raggiungere più utenti.

      Una rete di account X sta spingendo le app di nudificazione AI in più feed, dando strumenti inclini all'abuso un altro percorso verso gli utenti mentre le vittime lottano per contenere le conseguenze.

      In un rapporto del Wall Street Journal, il ricercatore senior di Graphika Matthew Patane ha detto che alcuni servizi di nudificazione sono promossi attraverso account social coordinati che riutilizzano formulazioni simili. Una rete includeva 45.000 account X, con post che si basano su frasi indirette e immagini censurate per evitare la moderazione.

      La scoperta mette nuova pressione su X e su siti come Undress AI, un servizio con sede in Belize che pubblicizza strumenti per immagini esplicite e stuzzica la creazione di video a pagamento. Undress AI e X non hanno risposto alle richieste di commento.

      Le promozioni per tali app sono così facili da trovare. Abbiamo usato parole chiave casuali e trovato post promozionali come quello qui sotto:

      X

      Come si diffondono i post

      Gli account identificati da Patane non si basavano su descrizioni dirette. Usavano un linguaggio informale e riferimenti attenuati che potevano indirizzare gli utenti verso strumenti di nudificazione senza specificare ogni caratteristica.

      Undress AI sta anche spingendo oltre le immagini fisse. Il suo sito web stuzzica un'opzione di creazione video da 59 dollari e consente agli utenti di scegliere pose sessualizzate, tra cui spogliarsi e cavalcare. Offre anche crediti quando gli utenti reclutano amici.

      Quella combinazione dà al servizio due modi per crescere. I post codificati possono attirare attenzione verso il sito, e i crediti di referral danno agli utenti una ragione incorporata per portare più persone.

      Chi viene danneggiato quando gli strumenti si diffondono

      Le vittime spesso si ritrovano a inseguire i danni dopo che un'immagine è già stata diffusa. I casi segnalati descrivono immagini di nudo fabbricate che circolano attraverso Snapchat, corridoi scolastici e reti tra pari, con famiglie che cercano di rimuoverle mentre spingono le scuole o la polizia ad agire.

      Una studentessa presa di mira da un gruppo di ragazzi in Iowa ha detto che le immagini create con Undress AI venivano passate tra i compagni di classe. In seguito si è trasferita a corsi online.

      La rete X aggiunge scala a quel rischio. Una singola foto caricata può diventare rapidamente una punizione sociale, specialmente quando la promozione canalizza più utenti verso strumenti progettati per la manipolazione di immagini sessualizzate.

      Cosa dovrebbero dimostrare ora le piattaforme

      X proibisce ampiamente attività destinate a ingannare gli altri, ma la promozione coordinata della nudificazione crea una prova di enforcement più difficile. I post possono evitare parole chiave ovvie pur indirizzando gli utenti verso strumenti progettati per la manipolazione esplicita.

      Il prossimo segnale da osservare è se le piattaforme riescono a catturare queste campagne prima che si espandano. Dovrai proteggere le immagini personali dove possibile, segnalare rapidamente l'imitazione e salvare prove prima che i post scompaiano.

      Paulo Vargas è un laureato in inglese diventato reporter e poi scrittore tecnico, con una carriera che è sempre tornata a…

      Samsung lancia il Galaxy Book6 Edge con Snapdragon X2 Elite e funzionalità Galaxy AI

      Il premium Copilot+ PC combina il chip più recente di Qualcomm con un design sottile e leggero.

      Samsung ha ufficialmente ampliato la sua gamma di PC AI con il lancio del Galaxy Book6 Edge, un laptop Windows premium che abbina il più recente processore Snapdragon X2 Elite di Qualcomm con funzionalità Galaxy AI e un design altamente portatile. L'azienda lo sta posizionando come una macchina focalizzata sulla produttività che combina AI sul dispositivo con integrazione senza soluzione di continuità nell'ecosistema Galaxy.

      Il Galaxy Book6 Edge è costruito attorno all'AI e alla portabilità

      Leggi di più

      I creatori senza volto stanno diventando danni collaterali nella pulizia AI di YouTube

      I creatori senza volto hanno costruito veri pubblici su YouTube, ma ora l'algoritmo sta lavorando contro di loro

      YouTube ha un problema di contenuti scadenti generati da AI, e la sua repressione sta catturando creatori legittimi nel fuoco incrociato. I canali senza volto, dove nessun ospite umano appare mai sullo schermo, esistono da anni e non sono intrinsecamente generati da AI. Molti sono gestiti da creatori solitari che semplicemente preferiscono rimanere anonimi. Il problema è che gli strumenti AI hanno reso facile inondare la piattaforma con contenuti senza volto a basso sforzo su larga scala, e l'algoritmo di YouTube ora penalizza il formato nel suo insieme.

      Leggi di più

      Questa nuova app per Mac tiene in ostaggio il tuo schermo finché non bevi acqua

      Hydration Hostage si trova nella tua barra dei menu e blocca il tuo schermo secondo un programma, sbloccandosi solo dopo che la tua fotocamera conferma che hai preso un sorso.

      Una nuova app per Mac scommette che il motivo per cui i tuoi promemoria di idratazione falliscono è che sono troppo facili da ignorare. App come Loook adottano un approccio gentile, incoraggiandoti a idratarti insieme ai promemoria per la postura e le pause per gli occhi. Hydration Hostage adotta la posizione opposta. Sviluppata da un singolo sviluppatore, l'app si trova nella tua barra dei menu e prende il controllo del tuo schermo secondo un programma predefinito fino a quando la fotocamera conferma che hai effettivamente bevuto acqua.

      Come funziona

      Leggi di più