AI-компании покупают старые книги для обучения без ошибок.

      Предложение от брокера данных ISBNdb прямолинейно: лучшие данные для обучения ИИ мира лежат на полке. Загвоздка в том, что доступ к ним означает срезание корешка у миллионов книг, а затем никогда не признавать, какая лаборатория заплатила за эту работу.

      У ИИ есть проблема загрязнения, созданная им самим. Так много контента в интернете теперь написано машинами, что модели рискуют питаться собственными отходами. Одна компания считает, что противоядие лежит на полке: старые, печатные книги, изданные до появления чат-ботов.

      404 Media сообщила, что ISBNdb теперь закупает физические книги оптом для сканирования в данные для обучения ИИ. Компания называет себя крупнейшей базой данных книг в мире. «Лучшие данные для обучения ИИ мира лежат на полке», — говорится на ее сайте. Книги, добавляет она, «плотные, отредактированные, авторитетные».

      Ценность заключается в дате. ISBNdb утверждает, что книги, напечатанные до 2022 года, предшествуют эпохе больших языковых моделей, поэтому они не могут содержать текст, сгенерированный ИИ. Это важно из-за коллапса модели. Это название документированного спада, который начинается, когда модели обучаются на синтетическом выходе более ранних моделей. Каждое поколение оказывается немного хуже предыдущего.

      💜 технологий ЕС Последние слухи из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Открытая сеть не предлагает такой гарантии. Быстро растущая доля онлайн-текста теперь создается машинами, часть того же потока мусора, который помогли создать лаборатории. Печать до 2022 года, напротив, является фиксированной, написанной человеком записью, которую никто не может тихо переписать.

      Гонка за отравлением

      Есть вторая причина, по которой лаборатории хотят чистую бумагу. Авторы начали сопротивляться с помощью отравления данных. Они заимствуют приемы из инструментов, таких как Nightshade, добавляя в текст символы, которые человек читает нормально, но модель не может. Собственный блог ISBNdb ссылается на исследования Anthropic, предполагающие, что всего 250-500 тщательно подготовленных документов могут создать бэкдор в корпусе триллионов токенов.

      Книги до 2022 года, написанные до появления этих инструментов, обходят проблему. ISBNdb продает это как происхождение: купите бумагу, храните квитанции, и ваша юридическая команда будет иметь чистую цепочку хранения.

      Проблема оптики

      Есть загвоздка, которую компания заявляет прямо. Масштабное сканирование обычно уничтожает книгу. Рабочие срезают корешок, чтобы свободные страницы проходили через машину, что быстрее и дешевле, чем осторожная альтернатива. Поэтому ISBNdb предлагает своим клиентам секретность. «Строгая НДА на каждое сотрудничество», — говорится на ее сайте. Имена покупателей «никогда не раскрываются».

      Причина заключается в собственном рекламном тексте. «Проблема оптики реальна», — читается на сайте. «‘Компания ИИ уничтожает два миллиона книг’ — это не заголовок, который вызывает симпатию». Одним из предложенных обходных путей является чистая пропаганда: переформулировать поступок как цифровое сохранение книг.

      Знакомая борьба

      Все это сталкивается с битвой за авторские права, которая уже бушует. Судья в США одобрил соглашение Anthropic на сумму 1,5 миллиарда долларов по делу о пиратских книгах и постановил, что обучение на купленных, отсканированных книгах считается добросовестным использованием. Часть его аргументации заключалась в том, что копирование уничтожало каждую печатную оригинал, так что одна легальная копия просто заменяла другую. Покупка и уничтожение бумаги, другими словами, — это путь, который одобряют суды.

      Таким образом, индустрия, которая обещала оцифровать человеческие знания, теперь платит за то, чтобы скупать их и перерабатывать, по одной грузовиковой партии за раз. Ingram, крупнейший дистрибьютор книг в США, уже предупредил издателей и предложил им способ отказаться. Самое дефицитное в ИИ, как оказывается, — это предложение, к которому ни одна машина никогда не прикасалась.