Meta ritira Muse Image AI dopo il contraccolpo sulla privacy di Hollywood

      TL;DRMeta ha rimosso la sua funzione Muse Image AI da Instagram tre giorni dopo il lancio a seguito delle critiche da parte di SAG-AFTRA, dell'agenzia di talenti CAA e di attori tra cui Hannah Einbinder. Lo strumento, il primo dei Meta Superintelligence Labs, permetteva a chiunque di generare immagini da account Instagram pubblici senza alcun consenso richiesto.

      Meta ha rimosso la sua funzione Muse Image AI da Instagram e dall'app Meta AI solo tre giorni dopo il lancio, affermando che lo strumento "non ha centrato l'obiettivo" sulla privacy degli utenti. Il modello, il primo generatore di immagini emerso dai Meta Superintelligence Labs sotto la direzione del chief AI officer Alexandr Wang, è stato lanciato martedì con un difetto di design che si è rivelato fatale: gli account Instagram pubblici erano automaticamente inclusi per impostazione predefinita.

      "Il nostro intento era fornire uno strumento creativo utile e dare alle persone il controllo su se il loro contenuto pubblico potesse essere utilizzato in questo modo," ha dichiarato Meta in una nota venerdì. "Abbiamo ascoltato il feedback secondo cui questa funzione non ha centrato l'obiettivo, quindi non è più disponibile."

      Cosa ha fatto Muse Image

      La funzione, integrata nel chatbot Meta AI su Instagram e WhatsApp, consentiva agli utenti di contrassegnare qualsiasi profilo Instagram pubblico in un prompt e generare immagini AI utilizzando le foto condivise pubblicamente da quella persona come riferimento. Gli account privati e gli utenti sotto i 18 anni erano automaticamente esclusi, ma tutti gli altri dovevano attivamente disattivare l'opzione nelle impostazioni.

      Quell'architettura ha immediatamente richiamato un confronto con il modello più ampio di Meta di trattare i dati degli utenti come opt-out piuttosto che opt-in. Per attori, musicisti e creatori il cui valore professionale è legato alla loro immagine e somiglianza, la scelta predefinita era commercialmente minacciosa.

      La risposta di Hollywood

      SAG-AFTRA, il sindacato che rappresenta più di 160.000 lavoratori del cinema e della televisione, ha esortato i membri e tutti gli utenti di Instagram a disattivare l'opzione giovedì. "Qualsiasi cosa diversa da un chiaro e evidente opt-in per questi tipi di utilizzo delle immagini degli utenti di Instagram è inaccettabile e un totale errore di calcolo del sentimento pubblico riguardo ai pericoli e ai danni evidenti inerenti a tale uso," ha affermato.

      L'agenzia di talenti CAA ha emesso una dichiarazione simile, affermando che il "nome, immagine, somiglianza, voce o opera creativa di nessuno dovrebbe essere utilizzato da terzi, compresi i modelli AI, senza un chiaro consenso documentato." La sua lista di clienti include Tom Cruise, Charlize Theron e Zoe Saldaña.

      L'attore vincitore di un Emmy Hannah Einbinder, noto per la serie HBO Hacks, ha pubblicato su Instagram che la funzione era stata attivata automaticamente e ha esortato i suoi follower a disattivarla. Mark Zuckerberg ha risposto pubblicamente, affermando che le misure di sicurezza erano già integrate nello strumento, prima che Meta cambiasse rotta meno di 24 ore dopo.

      Un modello che Meta ha faticato a rompere

      L'episodio si inserisce in una dinamica ricorrente per Meta: lanciare funzioni AI che trattano i dati degli utenti come liberamente disponibili per impostazione predefinita, per poi ritirarsi quando arriva la reazione. L'UE ha trovato il modello pubblicitario "paga o consenti" di Meta in violazione del Digital Markets Act; i procuratori generali degli stati stanno cercando fino a 1,4 trilioni di dollari in danni per la sicurezza dei giovani in un processo fissato per agosto.

      SAG-AFTRA ha accolto con favore la rimozione. "Con i pericoli delle repliche digitali non consensuali ben noti a tutti, una funzione che incoraggiava quel comportamento è poco saggia," ha dichiarato un portavoce, aggiungendo che interromperla "è la cosa responsabile da fare."

      Muse Image faceva parte di un lancio più ampio che includeva anche Muse Video, uno strumento separato che Meta Superintelligence Labs ha costruito per la generazione di video. Meta ha affermato che quella funzione rimane disponibile.