Substack добавляет обнаружение ИИ для борьбы с «клаудфишингом»

      Substack имеет название для момента, когда вы понимаете, что пост, который вам понравился за его человеческий голос, на самом деле был создан ботом: Claudefishing. Теперь он предоставляет читателям кнопку для его обнаружения, используя детектор ИИ Pangram.

      Платформа новостных рассылок запустила функцию обнаружения ИИ. В резком посте под названием «Против Claudefishing» генеральный директор Крис Бест заявил, что читатели теперь могут сканировать посты, заметки, ответы и комментарии. Инструмент оценивает, сколько текста написал человек, и сколько было создано с помощью ИИ.

      Сканирование работает на текстах длиной более 100 слов, опубликованных с сегодняшнего дня, и результат показывается только тому, кто его запрашивает. Он доступен в интернете и на iOS, Android будет добавлен позже.

      Что означает Claudefishing

      Бест осторожно подчеркивает, что проблема не в самом ИИ. Substack использует ИИ для создания программного обеспечения и функциональных возможностей продукта, отметил он, и многие писатели осознанно полагаются на него. Проблема заключается в несоответствии: читатели вкладывают свое внимание в нечто, за которым не стоит человеческая мысль. «Клод может предложить много», — написал он. «Но когда я хочу мнение Клода, я спрошу Клода».

      Ставки быстро растут. Pangram оценивает, что до 40% текста на некоторых социальных платформах теперь сгенерировано ИИ. Substack, который позиционирует себя как экономический двигатель культуры, основанный на доверии между людьми, хочет предотвратить превращение своей ленты в подобного рода мусор.

      Не запрет

      Инструменты работают в обе стороны. Писатели могут запустить детектор на своих черновиках перед публикацией, добавить заявление «Как я это делаю», чтобы объяснить свой процесс, и сообщить о любом сканировании своей работы, которое они считают неправильным. Substack обрамляет все это простой фразой: люди должны знать, что они получают.

      Это необычно прямой шаг на рынке, тонущем в лентах, сгенерированных ИИ. Пост даже уколол LinkedIn, платформу, которую многие считают эпицентром машинной искренности.

      Засада

      Проблема в том, что обнаружение ИИ не является установленной наукой. Pangram точен, но не идеален, и The Atlantic предупредил, что чрезмерное доверие к нему рискует превратить обвинения в охоту на ведьм. Сам Substack признает, что инструмент не может сказать, вложена ли настоящая забота в произведение, только то, был ли ИИ вовлечен в формулировку слов.

      Критики идут дальше. Любой детектор, утверждает разработчик Перри Мецгер, позволяет вам тонко настроить ИИ, чтобы избежать его, так что такие инструменты не могут работать долго. Исследователь Мор Нааман назвал обнаружение проигрышной битвой: если читатели сканируют, писатели тоже будут сканировать и обходить это. Как выразился один комментатор Substack, наличие ИИ не доказывает отсутствие человека.

      Очень человеческий бизнес

      В основе лежит ставка. Как сказал Питер Кафка из Business Insider, если ИИ победит, «созданное людьми» может стать очень хорошим бизнесом. Substack ставит на то, что доказательство того, что человек выполнил работу, станет дефицитным, продаваемым товаром. То, что борьба разворачивается вокруг новостных рассылок, из всех мест, только показывает, насколько далеко теперь простирается этот вопрос.