LinkedIn собирает усилия сообщества в борьбе с некачественным ИИ контентом

      Компания запускает новую кнопку, которая позволяет отмечать посты, которые, по вашему мнению, были сгенерированы ИИ.

      LinkedIn сталкивается с серьезной проблемой "слопа" от ИИ и теперь обращается к своим пользователям за помощью в ее решении. Платформа запускает новую кнопку, которая позволяет пользователям отмечать посты, которые они подозревают в генерации ИИ. Она планирует использовать эту обратную связь для настройки системы, которая решает, насколько широкое распространение получит пост за пределами сети пользователя, в зависимости от того, насколько он кажется сгенерированным ИИ.

      Это объявление появилось вскоре после того, как анализ Pangram показал, что более сорока процентов длинных постов в LinkedIn полностью сгенерированы ИИ, и это указывает на то, что меры по сокращению охвата, которые компания внедрила ранее в этом году, не были достаточными сами по себе.

      Краудсорсинговый детектор слопа

      Главный продуктовый директор Хари Сринивасан изложил изменения в недавнем посте в LinkedIn, заявив, что слоп от ИИ стал главной приоритетной задачей для компании, поскольку пользователи приходят на платформу за реальными мнениями и экспертизой, а не за сгенерированным текстом. Он сказал, что LinkedIn теперь фиксирует сотни тысяч автоматических попыток комментирования каждый день и заблокировал миллиарды других попыток автоматизации, включая массовую публикацию слопа, за последние пару месяцев.

      Новая кнопка для отметки напрямую связана с этой инициативой, наряду с улучшенными классификаторами, предназначенными для выявления слопа от ИИ и низкокачественных постов до того, как они достигнут людей за пределами сети автора. Сринивасан признал, что слоп трудно определить и что определение постоянно меняется, что является частью причины, по которой LinkedIn хочет, чтобы отчеты пользователей усилили его автоматическое обнаружение.

      Инструмент для обучения пользователей, а не наказания их

      LinkedIn также тестирует приватную панель для отметок, которая сообщает участникам, когда их посты выглядят неаутентично или сильно зависят от ИИ. Этот инструмент предназначен для того, чтобы дать пользователям возможность скорректировать свой подход, а не наказывать их сразу. Сринивасан сказал, что отметка основывается на сигналах от пользователей, а не на автоматическом детекторе ИИ, поскольку многие люди используют ИИ для уточнения своих мыслей, не производя слоп и заслуживают точной обратной связи, а не неправильной отметки инструментом обнаружения.

      Компания также отказывается от функции "улучшить ваш пост" с использованием ИИ и заменяет ее инструментом коррекции, который исправляет грамматику, не изменяя голос пользователя. Это тонкое признание того, что функция, которую LinkedIn когда-то продвигал для помощи в написании, вероятно, способствовала потоку постов, звучащих как ИИ, которые он теперь пытается очистить, даже если это не то, как Сринивасан сформулировал решение.

      LinkedIn не одинок в этой борьбе с слопом от ИИ. Substack также запустил инструмент в начале этого месяца, который отмечает написанные ИИ информационные бюллетени для читателей. Успеют ли такие инструменты успешно сдержать распространение слопа от ИИ, еще предстоит увидеть.