Письма папы Льва подтвердили человечность, используя детекторы ИИ

      Чтобы защитить анти-ИИ Папу от обвинений в том, что машина помогла написать его слова, его команда обратилась к маловероятному инструменту: ИИ. Австралийская компания сертифицировала произведения Папы Льва XIV как созданные человеком, используя набор тех самых детекторов, которые породила эта технология.

      Папа Лев XIV сделал ИИ одной из своих определяющих тем. Его первая энциклика, Magnifica Humanitas, опубликованная в мае, предупреждала, что эта технология может начать доминировать над человечеством. Теперь сборник его размышлений об образовании и ИИ, Maps of Hope, был сертифицирован как написанный человеком.

      Неловкий фон

      Сертификация последовала за неловким эпизодом. Вскоре после появления энциклики исследователь ИИ Линч Чжан в широко распространенном анализе утверждал, что некоторые ее части несут отпечатки ИИ. Он указал на частое использование длинных тире, слова «поистине» и риторических триад, и предположил, что вероятным виновником был Claude от Anthropic.

      Детектор Pangram отметил некоторые отрывки. The Verge задали очевидный вопрос: использовал ли Папа ИИ, чтобы написать о опасностях ИИ? Чжан подчеркнул, что, вероятно, это были чиновники Ватикана, а не сам Лев. Ватикан никогда не подтвердил это утверждение, и оно никогда не было доказано.

      Входят сертифицирующие люди

      💜 технологий ЕС Последние новости из технологической сцены ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-искусства. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас! Это контекст для нового штампа одобрения. Proudly Human возглавляет бывший главный ученый Австралии Алан Финкель. Он подтвердил, что Maps of Hope написан человеком, и присвоил ему знак доверия компании. Книга была издана Австралийским католическим университетом совместно с Дикастерией Ватикана по культуре и образованию. В ней есть предисловие кардинала Жозе Толентино де Мендонса.

      Финкель рассматривает сертификацию как основную цель предприятия. «С вниманием Папы, сосредоточенным на вопросе ИИ и авторства человека, это говорит о том, что это уже не нишевое обсуждение», — сказал он. «Это определяющий вопрос нашего времени».

      Процесс состоит из части бумажной работы и части машинной. Авторы подтверждают свою личность и подписывают декларацию о том, что ИИ не писал первый черновик или какие-либо предложения. Proudly Human затем пропускает текст через то, что Финкель назвал «набором из четырех или пяти» детекторов ИИ, плюс свой собственный алгоритм усреднения. Он оценил сборник как «в основном чисто человеческий». Другими словами, чтобы подтвердить человеческое, он полагается на машину.

      «Фундаментальное право»

      Предложение Финкеля заключается в том, что без законов, обязывающих авторов раскрывать использование ИИ, читатели имеют право знать, кто или что произвело текст. «Я на самом деле считаю, что это фундаментальное право», — сказал он. Это особенно актуально для религиозных деятелей, утверждал он, где конгрегация ожидает подлинной мудрости человека, произносящего проповедь.

      Это отвечает растущему спросу на доказательства того, что работу выполнил человек, а не программа. Проблема в том, что обнаружение ИИ не является установленной наукой. Детекторы расходятся во мнениях и могут ошибаться.

      Проблема с детекторами

      The Atlantic предупреждал, что чрезмерная доверчивость к таким инструментам, как Pangram, рискует превратить обвинения в охоту на ведьм. Некоторые человеческие авторы отмечаются просто потому, что ИИ научился писать как они. Сертификат, таким образом, надежен только настолько, насколько надежны детекторы, стоящие за ним, а эти детекторы остаются ошибочными.

      Этот эпизод все еще отражает, куда движется борьба за ИИ. Поскольку текст, написанный машиной, заполняет интернет, происхождение становится валютой доверия и бизнесом. Proudly Human предлагает свой штамп как органическую или справедливую торговую метку для человеческого письма. То, что тестовым случаем является Папа, а арбитром — инструмент обнаружения ИИ, лишь подчеркивает суть.