La moderación de IA de Meta está prohibiendo erróneamente cuentas.

      Camille Hanson se despertó una noche de marzo con una notificación: Meta había marcado sus cuentas de Facebook e Instagram para eliminación. Ella y su esposo dirigían un negocio de enseñanza de inglés allí con casi un millón de seguidores. Meta dijo que había violado sus reglas sobre fraude y engaño, informó el New York Times.

      Ella apeló. Una semana después, Meta lo negó. “Toda tu información será eliminada permanentemente”, decía la respuesta. “No puedes solicitar otra revisión de esta decisión.” Los Hanson dirigen el negocio desde Portugal, así que, como lo expresó su esposo, era como si alguien cerrara su tienda de un día para otro.

      Humanos fuera del circuito

      En marzo, Meta dijo que otorgaría más poder a la IA para juzgar qué cuentas violan sus reglas y para manejar las apelaciones. Meses después, despidió a miles de empleados, incluidos aquellos que hacían exactamente ese trabajo.

      Más de 60,000 usuarios han firmado desde entonces una petición pidiendo a Meta que explique sus prohibiciones y que permita a un humano revisar las apelaciones. Los foros de Reddit se han llenado con la misma queja: un sistema automatizado elimina una cuenta, y ninguna persona responde.

      La defensa de Meta

      Meta rechaza la idea de que la IA sea peor que las personas. El portavoz Daniel Roberts dijo que sus nuevas herramientas de moderación cometen un 13% menos de errores que el personal humano y detectan un 10% más de violaciones. Las cinco cuentas que el Times señaló, observó, fueron todas prohibidas por las herramientas más antiguas de Meta.

      El 💜 de la tecnología de la UE

      Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Regístrate ahora!

      “Estamos comprometidos a cometer menos errores de aplicación y a ayudar a las personas a proteger sus cuentas, y la IA está cumpliendo en ambos aspectos”, dijo.

      Sin embargo, la empresa ha tenido un camino difícil con la automatización. En mayo, los hackers convirtieron su chatbot de servicio al cliente de IA contra 34,000 cuentas de Instagram. El personal también se rebeló contra un programa que rastreaba sus pulsaciones para entrenar a la IA. También ha enfrentado caos en sus herramientas publicitarias de IA.

      Un patrón kafkiano

      Las prohibiciones injustas a menudo llevan la peor etiqueta posible. Athenia Rodney, que ha dirigido el grupo JuneteenthNY durante 17 años, tuvo sus cuentas eliminadas por supuesto material de explotación infantil. Su contenido, dijo, es apto para toda la familia. Los hackers, de hecho, habían tomado el control de sus cuentas.

      Para recuperarlas, envió documentos de identidad, se quejó a la FTC y envió mensajes al personal de Meta en LinkedIn. Nada funcionó hasta que el Times intervino. Meta restauró a un influencer, luego lo prohibió nuevamente días después por derechos de autor, y luego lo reinstauró una vez más.

      El ángulo europeo

      Las apuestas son más altas en Europa, donde las mismas prohibiciones automatizadas alcanzan a WhatsApp. El escritor de tecnología M.G. Siegler, prohibido tres veces, describió su repentina exclusión de WhatsApp, sin advertencia ni explicación. Gran parte del continente lleva la vida diaria a través de la aplicación, desde el trabajo hasta el cuidado infantil.

      Meta insiste en que las grandes decisiones deben ser humanas. Después de que 26 ex empleados demandaran, alegando que un algoritmo los eligió para despidos, Meta dijo que tales decisiones son “tomadas por personas, no por IA.” Sin embargo, para millones de usuarios, solo un bot se interpone entre ellos y la eliminación. La apelación también es un bot. Es poco probable que la reacción disminuya mientras los reguladores agudizan su enfoque en la responsabilidad de las plataformas.