Il feed AI di Meta sta iniziando a sembrare un buco nero di internet a tarda notte.

      L'app AI autonoma di Meta è stata inondato di contenuti clickbait di bassa qualità, storie emotive false e contenuti progettati per generare engagement, sollevando nuove domande su come le piattaforme di AI generativa vengano moderate mentre diventano sempre più social e orientate al pubblico.

      Secondo un rapporto di Verge, gli utenti del feed di scoperta sociale di Meta AI hanno incontrato strani post generati dall'AI che vanno da confessioni personali fabricate a affermazioni sulla salute fuorvianti e scenari fittizi bizzarri progettati per attrarre reazioni e condivisioni. Il problema sembra essere legato alla decisione di Meta di rendere le conversazioni e i suggerimenti generati dall'AI pubblicamente scopribili all'interno dell'app, trasformando effettivamente parti della piattaforma in un feed di contenuti in stile social media.

      Il risultato, sostengono i critici, è un ecosistema in cui gli utenti sono incentivati a generare contenuti AI sempre più scandalosi o manipolativi dal punto di vista emotivo per attirare attenzione. Alcuni post sembrano assomigliare a tattiche classiche di clickbait di Facebook, mentre altri sfumano il confine tra satira, disinformazione e spam generato dall'AI.

      La spinta di Meta verso l'AI sociale sta creando conseguenze indesiderate

      La situazione evidenzia una crescente sfida che le aziende di AI devono affrontare: cosa succede quando i chatbot evolvono da assistenti privati a piattaforme sociali dove i contenuti generati vengono condivisi pubblicamente e resi visibili algoritmicamente.

      Meta ha posizionato l'AI come un'esperienza sociale piuttosto che solo come uno strumento di produttività. Invece di limitare le interazioni a conversazioni private, la piattaforma AI dell'azienda incoraggia gli utenti a pubblicare suggerimenti, immagini generate e post assistiti dall'AI per gli altri da sfogliare e con cui interagire.

      Meta Logo Unsplash

      Questo approccio può aiutare a stimolare l'engagement, ma crea anche problemi di moderazione familiari con cui le piattaforme di social media hanno lottato per anni. I rapporti suggeriscono che il feed di Meta AI sta ora mettendo in evidenza storie cariche di emozioni, consigli di vita discutibili, esperienze fabricate e scenari esagerati progettati principalmente per innescare reazioni piuttosto che fornire informazioni utili.

      Per gli utenti, l'esperienza può rapidamente diventare confusa. Poiché molti post sono generati o assistiti dall'AI, potrebbe diventare più difficile distinguere tra esperienze umane autentiche, scherzi, suggerimenti sperimentali e narrazioni completamente fabricate. I critici avvertono che questo potrebbe contribuire a una più ampia erosione della fiducia online, soprattutto man mano che i contenuti generati dall'AI diventano più realistici e persuasivi dal punto di vista emotivo.

      La questione riflette anche una tendenza più ampia nell'industria dell'AI, dove le aziende stanno correndo per aumentare l'engagement degli utenti mentre cercano ancora di stabilire guardrail efficaci attorno ai contenuti generati. Man mano che gli strumenti di AI diventano più interattivi e socialmente orientati, i sistemi di moderazione faticano a tenere il passo.

      Il futuro dei feed social alimentati dall'AI potrebbe dipendere dalla moderazione

      Meta non ha posizionato il feed come una rete sociale tradizionale, ma la piattaforma si comporta sempre più come tale. Gli utenti possono scorrere attraverso interazioni AI visibili pubblicamente proprio come sfogliare contenuti su Instagram, Threads o Facebook.

      Questo è importante perché gli algoritmi di raccomandazione possono amplificare i contenuti più coinvolgenti indipendentemente dalla qualità o dall'accuratezza. Se i post generati dall'AI sensazionali o fuorvianti attirano costantemente attenzione, le piattaforme potrebbero inavvertitamente premiare la creazione di contenuti di bassa qualità nello stesso modo in cui i social media hanno storicamente premiato l'indignazione e il clickbait.

      Meta Logo Unsplash

      La controversia sorge mentre Meta continua a integrare l'AI nel suo ecosistema, inclusi WhatsApp, Instagram, Facebook e esperienze AI autonome. L'azienda vede l'AI conversazionale come una parte importante dell'esperienza futura di internet, ma la reazione attuale suggerisce che utenti e regolatori potrebbero richiedere controlli più rigorosi su come i contenuti generati dall'AI vengono resi visibili e etichettati.

      Per ora, il feed di AI di Meta offre un primo sguardo a cosa succede quando l'AI generativa collide con le dinamiche dei social media – e i risultati sembrano già sorprendentemente familiari.