El feed de IA de Meta está empezando a sonar como un agujero de conejo en internet de medianoche.
La aplicación de IA independiente de Meta está siendo inundada, según informes, con contenido de baja calidad, historias emocionales falsas y contenido diseñado para atraer la participación, lo que plantea nuevas preguntas sobre cómo se están moderando las plataformas de IA generativa a medida que se vuelven cada vez más sociales y orientadas al público.
Según un informe de Verge, los usuarios del feed de descubrimiento social de Meta AI han estado encontrando extrañas publicaciones generadas por IA que van desde confesiones personales fabricadas hasta afirmaciones de salud engañosas y escenarios ficticios extraños diseñados para atraer reacciones y compartidos. El problema parece estar relacionado con la decisión de Meta de hacer que las conversaciones y los mensajes generados por IA sean públicamente descubribles dentro de la aplicación, convirtiendo efectivamente partes de la plataforma en un feed de contenido al estilo de las redes sociales.
El resultado, argumentan los críticos, es un ecosistema donde los usuarios están incentivados a generar contenido de IA cada vez más escandaloso o emocionalmente manipulador para ganar atención. Algunas publicaciones, según se informa, se asemejan a las tácticas clásicas de clickbait de Facebook, mientras que otras difuminan la línea entre la sátira, la desinformación y el spam generado por IA.
El impulso de Meta hacia la IA social está creando consecuencias no deseadas
La situación destaca un desafío creciente que enfrentan las empresas de IA: ¿qué sucede cuando los chatbots evolucionan de asistentes privados a plataformas sociales donde el contenido generado se comparte públicamente y se presenta algorítmicamente?
Meta ha estado posicionando agresivamente la IA como una experiencia social en lugar de solo una herramienta de productividad. En lugar de limitar las interacciones a conversaciones privadas, la plataforma de IA de la compañía alienta a los usuarios a publicar mensajes, imágenes generadas y publicaciones asistidas por IA para que otros las exploren y participen.
Meta Logo Unsplash
Ese enfoque puede ayudar a impulsar la participación, pero también crea problemas de moderación familiares con los que las plataformas de redes sociales han luchado durante años. Los informes sugieren que el feed de Meta AI ahora está presentando historias cargadas emocionalmente, consejos de vida cuestionables, experiencias fabricadas y escenarios exagerados diseñados principalmente para provocar reacciones en lugar de proporcionar información útil.
Para los usuarios, la experiencia puede volverse rápidamente confusa. Debido a que muchas publicaciones son generadas o asistidas por IA, puede volverse más difícil distinguir entre experiencias humanas auténticas, bromas, mensajes experimentales y narrativas completamente fabricadas. Los críticos advierten que esto podría contribuir a una erosión más amplia de la confianza en línea, especialmente a medida que el contenido generado por IA se vuelve más realista y emocionalmente persuasivo.
El problema también refleja una tendencia más amplia en la industria de la IA donde las empresas están compitiendo para aumentar la participación de los usuarios mientras intentan establecer controles efectivos en torno al contenido generado. A medida que las herramientas de IA se vuelven más interactivas y orientadas socialmente, los sistemas de moderación están luchando por mantenerse al día.
El futuro de los feeds sociales impulsados por IA puede depender de la moderación
Meta no ha posicionado el feed como una red social tradicional, pero la plataforma se comporta cada vez más como una. Los usuarios pueden desplazarse a través de interacciones de IA visibles públicamente, al igual que navegar por contenido en Instagram, Threads o Facebook.
Eso importa porque los algoritmos de recomendación pueden amplificar el contenido más atractivo sin importar la calidad o precisión. Si las publicaciones generadas por IA sensacionalistas o engañosas atraen constantemente la atención, las plataformas pueden recompensar involuntariamente la creación de contenido de baja calidad de la misma manera que las redes sociales han recompensado históricamente la indignación y el clickbait.
Meta Logo Unsplash
La controversia surge a medida que Meta continúa integrando la IA en su ecosistema, incluyendo WhatsApp, Instagram, Facebook y experiencias de IA independientes. La compañía ve la IA conversacional como una parte importante de la experiencia futura de internet, pero la actual reacción sugiere que los usuarios y reguladores pueden exigir controles más estrictos sobre cómo se presenta y etiqueta el contenido generado por IA.
Por ahora, el feed de IA de Meta está ofreciendo un primer vistazo a lo que sucede cuando la IA generativa choca con la dinámica de las redes sociales, y los resultados ya parecen strikingly familiar.
Otros artículos
Se informa que los astronautas buscaron refugio después de que el trabajo en el módulo filtrante de la ISS de Rusia generara preocupaciones.
Los astronautas a bordo de la ISS supuestamente tomaron medidas de refugio precautorias después de que el trabajo de reparación en el módulo Zvezda de Rusia, que ha tenido problemas durante mucho tiempo, generara nuevas preocupaciones sobre fugas de aire.
MacOS 27 podría finalmente poner fin al soporte para Mac con Intel y traer mejoras más inteligentes para Siri.
Los rumores sugieren que macOS 27 podría finalizar el soporte para Macs con Intel mientras introduce características más inteligentes de Siri, herramientas impulsadas por IA y refinamientos en el lenguaje de diseño Liquid Glass de Apple.
MacOS 27 podría finalmente poner fin al soporte para Mac con Intel y traer mejoras más inteligentes para Siri.
Los rumores sugieren que macOS 27 podría finalizar el soporte para Macs con Intel mientras introduce funciones más inteligentes de Siri, herramientas impulsadas por IA y refinamientos al lenguaje de diseño Liquid Glass de Apple.
El feed de IA de Meta está comenzando a sonar como un agujero de conejo en internet a altas horas de la noche.
La aplicación de IA de Meta está siendo inundada supuestamente con clickbait, historias falsas y publicaciones generadas por IA impulsadas por el compromiso, mientras la compañía avanza hacia una experiencia de IA más social.
Google realmente quiere que Gemini esté involucrado en cada parte de tu teléfono ahora.
Se informa que Google está ampliando la integración de Gemini con Google Contacts, lo que podría permitir que el asistente de IA maneje llamadas, mensajes y tareas basadas en contactos de manera más natural en Android.
Microsoft acaba de eliminar una de las características más interesantes de su navegador Edge para favorecer más la IA.
Microsoft está descontinuando Edge Collections, una herramienta popular de investigación y organización, mientras la empresa continúa trasladando el navegador hacia experiencias de Copilot impulsadas por IA.
El feed de IA de Meta está empezando a sonar como un agujero de conejo en internet de medianoche.
La aplicación de IA de Meta está siendo inundada supuestamente con clickbait, historias falsas y publicaciones generadas por IA impulsadas por el compromiso, mientras la compañía avanza hacia una experiencia de IA más social.