Una red de videos políticos contrató a actores reales para leer sus guiones de IA. Eso fue suficiente para superar los detectores de YouTube.

      TL;DRYouTube ha terminado 20 canales en una red que pagaba a actores de la economía gig $26 por video para leer guiones generados por IA atacando a políticos demócratas. La red alcanzó 45 millones de vistas porque poner un rostro real frente a un pipeline de IA derrota a todos los detectores de medios sintéticos que las plataformas han construido. La aplicación de la normativa llegó solo después de que Semafor y Riddance AI publicaran, y la violación citada fue spam en lugar de falsedad.[/tldr

      YouTube ha terminado una red de canales que alcanzó 45 millones de vistas al pagar a actores de la economía gig para leer guiones que parecen haber sido generados por grandes modelos de lenguaje. La aplicación de la normativa siguió a una investigación publicada el miércoles por Semafor, cuyo editor de medios Max Tani informó sobre la historia junto a Graph Massara.

      La empresa dijo en un comunicado a Semafor que tiene “políticas estrictas contra el spam y las prácticas engañosas” y había terminado 20 canales, que comprenden los 13 nombrados en el artículo y siete relacionados. TNW no ha verificado de manera independiente el número, que aparece solo en el comunicado de YouTube y en ninguna notificación pública de aplicación.

      La solución fue un rostro humano

      Todo sobre la operación parece automatizado excepto el componente que lo habría delatado. Los guiones, miniaturas, fotos de perfil y sitios web llevaban las huellas generativas habituales, pero la persona en cámara era real.

      Ese era el punto, según la firma de inteligencia de medios Riddance AI, que investigó la red en paralelo con Semafor. La entrega convincente frente a la cámara sigue siendo difícil para los modelos de video, escribieron Mason Broxham y Jeremy Carrasco en su informe, lo que crea un mercado para contratar a alguien barato en su lugar.

      La aplicación de la normativa de la plataforma se ha construido en torno a la detección de medios sintéticos. YouTube etiqueta automáticamente los videos generados por IA, ya sea que los creadores lo divulguen o no, y una persona real leyendo un guion de IA no activa ninguna de estas detecciones.

      Veintiséis dólares por video

      La tarifa está documentada. Una convocatoria de casting publicada por la productora Virelox buscaba un portavoz profesional frente a la cámara para un canal de YouTube relacionado con noticias, y Riddance encontró un anuncio compañero que ofrecía $26 por guion, con un tiempo de entrega de 24 horas y el actor proporcionando su propia cámara y luces.

      Los actores fueron reclutados a través de Fiverr y Backstage, los mismos lugares donde las marcas contratan portavoces para termómetros de carne y dispositivos de limpieza de oídos. Uno de ellos, Frank George, le dijo a Semafor a través del servicio de mensajería de Fiverr que fue pagado a través de un intermediario y no sabía quién estaba financiando el trabajo.

      Describió los videos a Semafor como anuncios pagados y a sí mismo como un portavoz. Cuando se le pidió que nombrara al intermediario, respondió: “Casgains”.

      Quién estaba detrás de esto

      Semafor rastreó la red hasta Caleb Chan, un graduado de la Universidad de Chicago que construyó un canal de YouTube sobre finanzas llamado Casgains Academy y luego convirtió la viralidad en el producto. Cofundó Virelox, que vende la creación rápida de cuentas de creadores en nombre de clientes.

      Chan publicó en X en abril que tenía 106 cuentas de YouTube activas y quería 300 para mayo, y en una publicación posterior afirmó tener una red de más de 500 creadores fantasmas generando miles de millones de vistas al mes. Esas son sus propias afirmaciones promocionales y no han sido auditadas.

      También publicó lo que creía haber aprendido sobre el sistema de clasificación, escribiendo que cuando muchas cuentas publican el mismo hashtag en minutos, el algoritmo lo trata como noticias de última hora. Dijo que lo había probado nueve veces, y concluyó: “fabricar noticias > informar noticias”.

      Lo que publicaron los canales

      Riddance analizó 622 transcripciones de videos a través de las personas, contabilizando menciones de políticos individuales y categorizando las afirmaciones adjuntas a cada uno. La carga fiscal, los problemas presupuestarios y la fuga de negocios de los estados gobernados por demócratas dominaron, siendo el alcalde de Nueva York, Zohran Mamdani, la figura más frecuentemente atacada.

      Los títulos nombraban a un político demócrata, luego adjuntaban un verbo en mayúsculas a una historia económica o un escándalo. La mayoría de las afirmaciones subyacentes seguían reportes reales, encontró Riddance, pero el encuadre a menudo no sobrevivía al contacto con el video en sí.

      Semafor revisó un video de William Reports News titulado sobre Mamdani en pánico por el cierre de hoteles Hilton, y encontró que no contenía tal afirmación y argumentaba casi lo contrario. Otro decía que la gobernadora Kathy Hochul había rechazado aprobar la propuesta fiscal de Mamdani, la cual ella ha respaldado.

      Las costuras eran evidentes, y no pasó nada

      La coordinación no fue sutil. Cada persona usaba la misma ominosa música de piano, y una comparación par a par del corpus de transcripciones encontró que los canales de Omar y Julian compartían 304 segmentos de guion.

      Las personas aparecían en los canales de los demás sin explicación, los perfiles de Linktree apuntaban al anfitrión equivocado, y un actor cambió de una persona anti-Trump a una pro-Trump en cuestión de semanas. Riddance registró que los sitios web asociados se desconectaron todos en la tarde del 25 de agosto, después de que Semafor contactara a la empresa.

      La audiencia era real

      Esto debería preocupar más a las plataformas que el método de producción. Riddance encontró que los más de 90,000 comentaristas se superponían sustancialmente con las audiencias de otros canales de YouTube de tendencia derecha, lo que significa que personas reales estaban viendo.

      Las analíticas internas de una persona, encontradas por Semafor en un panel accesible a través de una simple búsqueda en Google, mostraron una audiencia 85% estadounidense, 80% masculina y 80% mayores de 55 años. La red superó el compromiso de los canales de YouTube del Washington Post, el New Yorker y el Boston Globe, informó Semafor.

      Terminado por spam, no por estar equivocado

      Lee nuevamente el comunicado de YouTube. La violación citada es spam y prácticas engañosas, que es una regla de volumen y autenticidad en lugar de precisión.

      Ese encuadre importa, porque es la palanca de aplicación que la plataforma realmente tiene. La misma palanca ha estado atrapando a creadores sin rostro que nunca usaron IA en absoluto, lo que sucede cuando una señal proxy sustituye a la cosa que te importa.

      También es la segunda vez que esta aplicación ha seguido a la publicación en lugar de a la detección. YouTube eliminó varios canales después de la primera historia de Semafor sobre videos de colapso de estados azules generados por IA a principios de agosto, y Riddance había estado rastreando esta red desde junio.

      La capa de distribución sigue activa

      Terminar los canales fuente no elimina los clips. Riddance documentó docenas de cuentas de TikTok recirculando momentos de los videos de formato largo, algunos de ellos exclusivamente.

      Esas cuentas están dentro de un ecosistema mucho más grande. Casi el 60% de los videos de TikTok servidos a nuevos usuarios son contenido generado por IA, según el conteo de un estudio, por lo que el material eliminado no desaparece tanto como se desclasa a un estante inferior.

      Por qué se mantiene la laguna

      La regulación va en la misma dirección que la política de la plataforma, hacia los medios sintéticos. Brasil está definiendo actualmente qué cuenta como un deepfake antes de su votación, y las definiciones construidas en torno a las similitudes generadas no atraparán a un hombre real en una mesa de cocina.

      Nada de esto requería un modelo de frontera. Requería un LLM, una cuenta de Fiverr y alguien dispuesto a leer por $26.

      Chan dijo en un comunicado a Semafor que Virelox es un editor de medios digitales independiente que no toma clientes políticos y no utiliza anclas sintéticas, y que no tiene ninguna afiliación con uno de los canales en cuestión. De cualquier manera, la operación alcanzó a decenas de millones de personas antes de que dos redacciones, en lugar de cualquier clasificador, la desmantelaran.