El feed de IA de Meta está comenzando a sonar como un agujero de conejo en internet a altas horas de la noche.

      La aplicación de IA independiente de Meta está siendo inundada, según informes, con contenido de baja calidad, historias emocionales falsas y contenido diseñado para atraer la participación, lo que plantea nuevas preguntas sobre cómo se están moderando las plataformas de IA generativa a medida que se vuelven cada vez más sociales y orientadas al público.

      Según un informe de Verge, los usuarios del feed de descubrimiento social de Meta AI han estado encontrando extrañas publicaciones generadas por IA que van desde confesiones personales fabricadas hasta afirmaciones de salud engañosas y escenarios ficticios extraños diseñados para atraer reacciones y compartidos. El problema parece estar relacionado con la decisión de Meta de hacer que las conversaciones y los mensajes generados por IA sean públicamente descubribles dentro de la aplicación, convirtiendo efectivamente partes de la plataforma en un feed de contenido al estilo de las redes sociales.

      El resultado, argumentan los críticos, es un ecosistema donde los usuarios están incentivados a generar contenido de IA cada vez más escandaloso o emocionalmente manipulador para ganar atención. Algunas publicaciones, según se informa, se asemejan a las tácticas clásicas de clickbait de Facebook, mientras que otras difuminan la línea entre la sátira, la desinformación y el spam generado por IA.

      El impulso de Meta hacia la IA social está creando consecuencias no deseadas

      La situación destaca un desafío creciente que enfrentan las empresas de IA: qué sucede cuando los chatbots evolucionan de asistentes privados a plataformas sociales donde el contenido generado se comparte públicamente y se presenta algorítmicamente.

      Meta ha estado posicionando agresivamente la IA como una experiencia social en lugar de solo una herramienta de productividad. En lugar de limitar las interacciones a conversaciones privadas, la plataforma de IA de la compañía anima a los usuarios a publicar mensajes, imágenes generadas y publicaciones asistidas por IA para que otros las exploren y participen.

      Logo de Meta Unsplash

      Ese enfoque puede ayudar a impulsar la participación, pero también crea problemas de moderación familiares con los que las plataformas de redes sociales han luchado durante años. Los informes sugieren que el feed de Meta AI ahora está mostrando historias cargadas emocionalmente, consejos de vida cuestionables, experiencias fabricadas y escenarios exagerados diseñados principalmente para provocar reacciones en lugar de proporcionar información útil.

      Para los usuarios, la experiencia puede volverse rápidamente confusa. Debido a que muchas publicaciones son generadas o asistidas por IA, puede volverse más difícil distinguir entre experiencias humanas auténticas, bromas, mensajes experimentales y narrativas completamente fabricadas. Los críticos advierten que esto podría contribuir a una erosión más amplia de la confianza en línea, especialmente a medida que el contenido generado por IA se vuelve más realista y emocionalmente persuasivo.

      El problema también refleja una tendencia más amplia en la industria de la IA donde las empresas están compitiendo para aumentar la participación de los usuarios mientras intentan establecer guardrails efectivos alrededor del contenido generado. A medida que las herramientas de IA se vuelven más interactivas y orientadas socialmente, los sistemas de moderación están luchando por mantenerse al día.

      El futuro de los feeds sociales impulsados por IA puede depender de la moderación

      Meta no ha posicionado el feed como una red social tradicional, pero la plataforma se comporta cada vez más como una. Los usuarios pueden desplazarse por interacciones de IA visibles públicamente, al igual que al navegar por contenido en Instagram, Threads o Facebook.

      Eso importa porque los algoritmos de recomendación pueden amplificar el contenido más atractivo sin importar su calidad o precisión. Si las publicaciones generadas por IA sensacionalistas o engañosas atraen constantemente la atención, las plataformas pueden recompensar involuntariamente la creación de contenido de baja calidad de la misma manera que las redes sociales han recompensado históricamente la indignación y el clickbait.

      Logo de Meta Unsplash

      La controversia surge a medida que Meta continúa integrando la IA en su ecosistema, incluyendo WhatsApp, Instagram, Facebook y experiencias de IA independientes. La compañía ve la IA conversacional como una parte importante de la experiencia futura de internet, pero la actual reacción sugiere que los usuarios y los reguladores pueden exigir controles más estrictos sobre cómo se presenta y etiqueta el contenido generado por IA.

      Por ahora, el feed de IA de Meta está ofreciendo un primer vistazo a lo que sucede cuando la IA generativa choca con la dinámica de las redes sociales, y los resultados ya se ven sorprendentemente familiares.