El problema de la basura de la IA de TikTok es peor de lo que piensas — y los niños son los que más lo ven

      TikTok ha pasado años perfeccionando el arte de saber exactamente qué quieres ver a continuación. Abre la aplicación, desplázate un par de veces y, de repente, te está mostrando videos que parecen increíblemente adaptados a tus intereses. Pero, ¿qué sucede antes de que TikTok aprenda quién eres? Según una nueva investigación de la plataforma de edición de video Kapwing, la respuesta es cada vez más contenido de IA de baja calidad.

      El estudio encontró que casi el 60% de los videos mostrados a una cuenta nueva de TikTok eran contenido generado por IA de baja calidad. Ese no es un problema de nicho enterrado en rincones oscuros de la plataforma. Es la primera impresión que TikTok está dando a los nuevos usuarios antes de que el algoritmo comience a personalizar su feed. Y si eso suena preocupante, los hallazgos sobre el contenido para niños son aún más difíciles de ignorar.

      La era de comida chatarra del algoritmo

      El motor de recomendaciones de TikTok está diseñado para adaptarse rápidamente. La plataforma analiza todo, desde "me gusta" y seguimientos hasta tiempo de visualización y hábitos de desplazamiento antes de decidir qué mostrarte a continuación. Para entender cómo es una experiencia de TikTok sin tocar, los investigadores crearon una cuenta nueva y examinaron los primeros 500 videos mostrados en la página Para Ti. Los resultados fueron sorprendentes: 294 de esos videos fueron clasificados como contenido de IA de baja calidad. Eso significa que un nuevo usuario tiene más probabilidades de encontrar basura generada por IA que contenido creado por humanos antes de que TikTok tenga datos significativos sobre sus preferencias.

      TikTok Unsplash

      Quizás lo más revelador es cómo TikTok se compara con otras plataformas. Kapwing realizó previamente un experimento similar en YouTube Shorts y encontró sustancialmente menos desorden generado por IA. TikTok no solo era peor, era dramáticamente peor. En este punto, el contenido de IA no solo se está infiltrando en la plataforma. Se está convirtiendo en parte de la estética predeterminada de la plataforma. Y esa puede ser la verdadera historia aquí. Para muchos usuarios, especialmente los más jóvenes, los videos generados por IA ya no son una rareza ocasional. Se están convirtiendo en algo normal.

      Barrio Sésamo se encuentra con el valle inquietante

      La sección más alarmante del informe se centra en el contenido dirigido a niños. Los investigadores encontraron que más de la mitad de los videos en la categoría de Niños de TikTok calificaban como "basura" generada por IA. Un hashtag en particular, #CartoonKids, fue casi completamente dominado por material generado por IA, con solo un puñado de videos que parecían hechos por humanos. Cualquiera que haya tropezado con estos videos reconocerá la fórmula de inmediato: personajes de dibujos animados familiares aparecen en escenarios extraños, lecciones educativas están llenas de errores, los personajes hablan con voces sintéticas inquietantes, las animaciones cambian y se transforman de maneras que no tienen mucho sentido.

      El contenido a menudo se asemeja a la programación infantil a primera vista, pero se desmorona en el momento en que prestas atención. Eso es lo que lo hace preocupante. Los niños pequeños no están equipados para distinguir entre contenido educativo de alta calidad y una imitación generada por IA que presenta información incorrecta con confianza. Una lección de conteo que se equivoca en los números puede parecer ridícula para un adulto, pero un niño en edad preescolar no tiene el mismo contexto. Internet siempre ha tenido contenido cuestionable para niños. Lo que ha cambiado es la escala. La IA generativa permite la creación de flujos interminables de videos a un ritmo que ningún creador humano podría igualar. Y el sistema de recomendaciones de TikTok parece más que dispuesto a distribuirlos.

      TikTok

      El problema se extiende más allá del contenido para niños. El estudio encontró que los videos educativos, de ciencia, salud e historia estaban entre las categorías más afectadas por la basura de IA. Eso es particularmente desafortunado porque estos son precisamente los temas donde la precisión es más importante. Un sketch de comedia mal generado es lo suficientemente fácil de ignorar. Una lección de historia llena de detalles fabricados o un video de salud que presenta consejos engañosos es una historia completamente diferente. Para ser justos, no todos los creadores que utilizan IA están produciendo basura. Algunos creadores están experimentando con presentadores y visuales generados por IA para hacer que los temas educativos sean más atractivos. En los mejores casos, la IA funciona como una herramienta que apoya el trabajo del creador en lugar de reemplazarlo. Pero el informe destaca una realidad creciente en las redes sociales: los incentivos a menudo recompensan el volumen sobre la calidad. Si un creador puede generar docenas de videos en el tiempo que antes le llevaba hacer uno, las plataformas se inundan de contenido que es técnicamente visible pero ofrece muy poco sustancia.

      TikTok parece consciente de que los usuarios se están cansando de esto. La compañía ha introducido controles que permiten a los usuarios reducir la cantidad de contenido generado por IA que ven y ha invertido en iniciativas de alfabetización sobre IA. Sin embargo, la investigación sugiere que esos esfuerzos pueden estar luchando por mantenerse al día con la inundación. La ironía es que las redes sociales se hicieron populares porque ofrecían algo distintivamente humano: creatividad, personalidad, experiencia y conexión. La IA puede imitar todas esas cosas sorprendentemente bien. Pero la imitación no es lo mismo que la autenticidad. Cuando casi seis de cada diez videos que ve un nuevo usuario son generados por IA, la pregunta ya no es si existe basura de IA en TikTok. La pregunta es si se ha convertido en una característica definitoria de la plataforma. Y para una generación de niños que crece con estos feeds, esa respuesta importa más que nunca.