AI-лента Meta начинает напоминать собой интернет-канал, в который можно углубиться поздно ночью.

      Согласно сообщениям, отдельное приложение ИИ Meta, по всей видимости, заполняется низкокачественным кликбейтом, фальшивыми эмоциональными историями и контентом, созданным для привлечения внимания, что вызывает новые вопросы о том, как платформы генеративного ИИ модератируются по мере их становления все более социальными и открытыми для публики.

      Согласно отчету Verge, пользователи социальной ленты Meta AI сталкиваются с странными постами, сгенерированными ИИ, которые варьируются от вымышленных личных признаний до вводящих в заблуждение заявлений о здоровье и странных вымышленных сценариев, созданных для привлечения реакций и репостов. Проблема, похоже, связана с решением Meta сделать сгенерированные ИИ разговоры и подсказки общедоступными внутри приложения, фактически превращая части платформы в контентную ленту в стиле социальных медиа.

      Критики утверждают, что результатом является экосистема, в которой пользователи получают стимулы для создания все более шокирующего или эмоционально манипулятивного контента ИИ, чтобы привлечь внимание. Некоторые посты, как сообщается, напоминают классические тактики кликбейта Facebook, в то время как другие размывают грань между сатирой, дезинформацией и спамом, сгенерированным ИИ.

      Упор Meta на социальный ИИ создает непредвиденные последствия

      Ситуация подчеркивает растущую проблему, с которой сталкиваются компании ИИ: что происходит, когда чат-боты эволюционируют из частных помощников в социальные платформы, где сгенерированный контент публично делится и алгоритмически поднимается на поверхность.

      Meta активно позиционирует ИИ как социальный опыт, а не просто инструмент для повышения производительности. Вместо того чтобы ограничивать взаимодействия частными разговорами, платформа ИИ компании поощряет пользователей публиковать подсказки, сгенерированные изображения и посты с помощью ИИ, чтобы другие могли просматривать и взаимодействовать с ними.

      Логотип Meta Unsplash

      Этот подход может помочь увеличить вовлеченность, но также создает знакомые проблемы модерации, с которыми социальные медиа сталкиваются на протяжении многих лет. Сообщения предполагают, что лента Meta AI теперь поднимает на поверхность эмоционально заряженные истории, сомнительные советы по жизни, вымышленные переживания и преувеличенные сценарии, созданные в первую очередь для того, чтобы вызвать реакции, а не предоставить полезную информацию.

      Для пользователей опыт может быстро стать запутанным. Поскольку многие посты сгенерированы ИИ или с его помощью, может стать труднее отличить подлинные человеческие переживания, шутки, экспериментальные подсказки и полностью вымышленные нарративы. Критики предупреждают, что это может способствовать более широкому разрушению доверия в интернете, особенно по мере того как контент, сгенерированный ИИ, становится более реалистичным и эмоционально убедительным.

      Проблема также отражает более широкую тенденцию в индустрии ИИ, где компании стремятся увеличить вовлеченность пользователей, одновременно пытаясь установить эффективные рамки вокруг сгенерированного контента. Поскольку инструменты ИИ становятся более интерактивными и социально ориентированными, системы модерации испытывают трудности с тем, чтобы не отставать.

      Будущее социальных лент на основе ИИ может зависеть от модерации

      Meta не позиционировала ленту как традиционную социальную сеть, но платформа все больше ведет себя как таковая. Пользователи могут прокручивать публично видимые взаимодействия ИИ, как будто просматривают контент в Instagram, Threads или Facebook.

      Это важно, потому что алгоритмы рекомендаций могут усиливать самый привлекательный контент независимо от качества или точности. Если сенсационные или вводящие в заблуждение посты, сгенерированные ИИ, постоянно привлекают внимание, платформы могут непреднамеренно вознаграждать создание низкокачественного контента так же, как социальные медиа исторически вознаграждали возмущение и кликбейт.

      Логотип Meta Unsplash

      Контроверсия возникает, поскольку Meta продолжает интегрировать ИИ в свою экосистему, включая WhatsApp, Instagram, Facebook и отдельные ИИ-опыты. Компания рассматривает разговорный ИИ как важную часть будущего интернет-опыта, но текущая реакция предполагает, что пользователи и регуляторы могут потребовать более строгого контроля над тем, как сгенерированный ИИ контент поднимается на поверхность и маркируется.

      Пока что лента ИИ Meta предлагает ранний взгляд на то, что происходит, когда генеративный ИИ сталкивается с динамикой социальных медиа – и результаты уже выглядят удивительно знакомо.