Meta retira Muse Image AI tras la reacción de Hollywood por la privacidad

      TL;DRMeta retiró su función Muse Image AI de Instagram tres días después de su lanzamiento tras la reacción negativa de SAG-AFTRA, la agencia de talentos CAA y actores como Hannah Einbinder. La herramienta, la primera de Meta Superintelligence Labs, permitía a cualquiera generar imágenes a partir de cuentas públicas de Instagram sin necesidad de optar por ello.

      Meta ha retirado su función Muse Image AI de Instagram y de la aplicación Meta AI solo tres días después de su lanzamiento, diciendo que la herramienta “no cumplió con las expectativas” en cuanto a la privacidad del usuario. El modelo, el primer generador de imágenes que surgió de Meta Superintelligence Labs bajo el director de IA Alexandr Wang, se lanzó el martes con un defecto de diseño que resultó fatal: las cuentas públicas de Instagram estaban optadas por defecto.

      “Nuestra intención era proporcionar una herramienta creativa útil y dar a las personas control sobre si su contenido público podría ser referenciado de esta manera”, dijo Meta en un comunicado el viernes. “Hemos escuchado los comentarios de que esta función no cumplió con las expectativas, por lo que ya no está disponible.”

      Lo que hizo Muse Image

      La función, integrada en el chatbot de Meta AI en Instagram y WhatsApp, permitía a los usuarios etiquetar cualquier perfil público de Instagram en un aviso y generar imágenes de IA utilizando las fotos compartidas públicamente de esa persona como referencia. Las cuentas privadas y los usuarios menores de 18 años fueron excluidos automáticamente, pero todos los demás tenían que optar activamente por salir en la configuración.

      Esa arquitectura generó una comparación inmediata con el patrón más amplio de Meta de tratar los datos de los usuarios como opt-out en lugar de opt-in. Para actores, músicos y creadores cuyo valor profesional está vinculado a su imagen y semejanza, el predeterminado era comercialmente amenazante.

      La respuesta de Hollywood

      SAG-AFTRA, el sindicato que representa a más de 160,000 trabajadores del cine y la televisión, instó a los miembros y a todos los usuarios de Instagram a optar por salir el jueves. “Cualquier cosa que no sea un opt-in claro y conspicuo para estos tipos de usos de las imágenes de los usuarios de Instagram es inaceptable y un error total de cálculo del sentimiento público respecto a los peligros y daños evidentes inherentes a tal uso”, dijo.

      La agencia de talentos CAA emitió un comunicado similar, diciendo que el “nombre, imagen, semejanza, voz o trabajo creativo de nadie debería ser utilizado por ningún tercero, incluidos los modelos de IA, sin un consentimiento claro y documentado.” Su lista de clientes incluye a Tom Cruise, Charlize Theron y Zoe Saldaña.

      La actriz ganadora del Emmy, Hannah Einbinder, conocida por la serie de HBO Hacks, publicó en Instagram que la función se había activado automáticamente y pidió a sus seguidores que la desactivaran. Mark Zuckerberg respondió públicamente, diciendo que ya se habían incorporado medidas de seguridad en la herramienta, antes de que Meta cambiara de rumbo menos de 24 horas después.

      Un patrón que Meta ha luchado por romper

      El episodio encaja en una dinámica recurrente para Meta: lanzar funciones de IA que tratan los datos de los usuarios como disponibles libremente por defecto, y luego retroceder cuando llega la reacción negativa. La UE encontró que el modelo publicitario de “pagar o consentir” de Meta infringía la Ley de Mercados Digitales; los fiscales generales estatales están buscando hasta $1.4 billones en daños por la seguridad juvenil en un juicio programado para agosto.

      SAG-AFTRA dio la bienvenida a la eliminación. “Con los peligros de las réplicas digitales no consensuadas bien conocidos por todos, una función que fomentaba ese comportamiento es imprudente”, dijo un portavoz, añadiendo que discontinuarla “es lo responsable a hacer.”

      Muse Image era parte de un lanzamiento más amplio que también incluía Muse Video, una herramienta separada que Meta Superintelligence Labs construyó para la generación de video. Meta dijo que esa función sigue disponible.