LinkedIn ужесточает контроль за некачественным контентом, достигая 94% точности обнаружения

      TL;DRLinkedIn ужесточает контроль над «мусором», сгенерированным ИИ, подавляя общие посты в рекомендациях, а не удаляя их. Платформа утверждает, что точность обнаружения составляет 94 процента на ранних тестах, но не предоставила данных о ложных срабатываниях.

      Если ваша лента LinkedIn казалась написанной одним человеком с 10 миллионами аккаунтов, вы не воображаете. Платформа стала чашкой Петри для постов, сгенерированных ИИ, которые ничего не говорят, но звучат смутно вдохновляюще. Теперь LinkedIn говорит, что что-то с этим делает.

      Компания объявила о изменениях, которые будут нацелены на то, что она называет «мусором ИИ», низкокачественным контентом, сгенерированным ИИ, который может звучать отшлифованно, но предлагает мало оригинальных мыслей или экспертизы. Вице-президент по продуктам Лаура Лоренцетти сказала, что платформа создает системы обнаружения, обученные различать посты, которые добавляют подлинную перспективу, и посты, которые кажутся повторяющимися, общими и пустыми.

      В ранних тестах LinkedIn утверждает, что ее система правильно отмечала общий контент 94 процента времени. Отмеченные посты не будут удалены. Вместо этого они будут подавлены в рекомендациях, что означает, что они все еще будут видны прямым контактам автора, но больше не будут распространяться по широкой ленте.

      Цели конкретные. LinkedIn нацеливается на откровенные приманки для вовлечения, переработанное «лидерство мысли», которое не имеет оригинальности, и посты с очевидными паттернами построения ИИ. Компания выделила формат «это не X, это Y» как один из примеров того, какого рода формульный контент ИИ она планирует понизить. 💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного искусства ИИ. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Ужесточение также распространяется на комментарии. LinkedIn будет нацеливаться на комментарии, сгенерированные ботами и общие комментарии ИИ, которые ничего не добавляют к разговору, такие, которые читаются как резюме ChatGPT к посту, на который они отвечают. Платформа также нацеливается на инструменты автоматизации, которые генерируют контент ИИ в больших объемах.

      Тем не менее, проводится четкая граница. LinkedIn говорит, что контент с помощью ИИ по-прежнему приветствуется, при условии, что он содержит оригинальные идеи или способствует значимому разговору. Сообщение не в том, чтобы «перестать использовать ИИ». Оно в том, чтобы «перестать позволять ИИ думать за вас».

      Эту разницу будет трудно последовательно применять. Утверждение LinkedIn о 94-процентной точности звучит впечатляюще, но компания не предоставила данные о ложных срабатываниях. Как часто законные посты ошибочно отмечаются как мусор — это вопрос. И платформа не сказала, как быстро произойдет внедрение, отметив только, что это может занять несколько месяцев, прежде чем пользователи увидят меньше низкокачественного контента ИИ в своих лентах.

      Этот шаг происходит в то время, когда обнаружение контента, сгенерированного ИИ, становится приоритетом в технологической индустрии. OpenAI недавно приняла метаданные C2PA и водяные знаки SynthID для своих изображений. ByteDance добавила водяные знаки и защитные меры по интеллектуальной собственности в Seedance 2.0. Но текст гораздо труднее идентифицировать, чем изображения, и подход LinkedIn, использующий поведенческие сигналы и стилистические паттерны вместо водяных знаков, по своей сути менее четкий.

      Ирония здесь трудно не заметить. LinkedIn является собственностью Microsoft, а Microsoft является одним из крупнейших инвесторов в OpenAI, компанию, инструменты которой производят большую часть контента, который LinkedIn теперь хочет подавить. Платформа также предлагает своего собственного помощника по написанию ИИ, который автоматически генерирует черновики постов и предложения для комментариев. Фактически, она строит и пожарный шланг, и фильтр одновременно.

      Тем не менее, модерация контента с помощью ИИ должна где-то начинаться. Проблема с лентой LinkedIn реальна и ухудшается. Если подавление сработает, другие платформы последуют. Если нет, компания публично признает, что ее лента была сломана ИИ, не сумев ее исправить.