LinkedIn собирает средства для борьбы с некачественным ИИ-контентом

      Компания запускает новую кнопку, которая позволяет отмечать посты, которые, по вашему мнению, были сгенерированы ИИ.

      LinkedIn сталкивается с серьезной проблемой "мусора" от ИИ и теперь обращается к своим пользователям за помощью в ее решении. Платформа запускает новую кнопку, которая позволяет пользователям отмечать посты, которые они подозревают в генерации ИИ. Она планирует использовать эту обратную связь для тонкой настройки системы, которая решает, насколько широкое распространение получит пост за пределами сети пользователя, основываясь на том, насколько он выглядит сгенерированным ИИ.

      Это объявление появилось вскоре после того, как анализ Pangram показал, что более сорока процентов длинных постов в LinkedIn полностью сгенерированы ИИ, и это указывает на то, что меры по сокращению охвата, которые компания внедрила ранее в этом году, сами по себе оказались недостаточными.

      Краудсорсинговый детектор мусора

      Главный продуктовый директор Хари Сринивасан изложил изменения в недавнем посте в LinkedIn, заявив, что "мусор" от ИИ стал главной приоритетной задачей для компании, потому что пользователи приходят на платформу за реальными мнениями и экспертизой, а не за сгенерированным текстом. Он сказал, что LinkedIn теперь фиксирует сотни тысяч попыток автоматического комментирования каждый день и заблокировал миллиарды других попыток автоматизации, включая массовую публикацию "мусора", за последние пару месяцев.

      Новая кнопка для отметки напрямую связана с этой инициативой, наряду с улучшенными классификаторами, предназначенными для выявления "мусора" от ИИ и низкокачественных постов до того, как они достигнут людей за пределами сети автора. Сринивасан признал, что "мусор" трудно определить и что определение продолжает меняться, что является частью причины, по которой LinkedIn хочет, чтобы отчеты пользователей усилили его автоматическое обнаружение.

      Инструмент для обучения пользователей вместо наказания

      LinkedIn также тестирует частную панель для отметок, которая сообщает участникам, когда их посты выглядят неаутентично или насыщены ИИ. Этот инструмент предназначен для того, чтобы дать пользователям возможность скорректировать свой подход, вместо того чтобы наказывать их сразу. Сринивасан сказал, что отметка основывается на сигналах от пользователей, а не на автоматическом детекторе ИИ, поскольку многие люди используют ИИ для уточнения своих мыслей, не производя "мусор", и заслуживают точной обратной связи, а не неправильной отметки инструментом обнаружения.

      Компания также прекращает использование функции "улучшить ваш пост" для написания с помощью ИИ и заменяет ее инструментом проверки, который исправляет грамматику, не изменяя голос пользователя. Это тонкое признание того, что функция, которую LinkedIn когда-то продвигал для помощи в написании, вероятно, способствовала потоку постов, звучащих как ИИ, которые он теперь пытается очистить, даже если Сринивасан не так сформулировал это решение.

      LinkedIn не одинок в этой борьбе с "мусором" от ИИ. Substack также выпустил инструмент в начале этого месяца, который отмечает написанные ИИ информационные бюллетени для читателей. Смогут ли такие инструменты успешно сдержать распространение "мусора" от ИИ, еще предстоит увидеть.