Папа Лев XIV выпустит энциклику ИИ Magnifica Humanitas 25 мая с соучредителем Anthropic Кристофером Олахом.

      TL;DRПапа Лев XIV лично представит свою первую энциклику, Magnifica Humanitas, 25 мая в Ватикане. Соучредитель Anthropic Кристофер Олах, который возглавляет исследование интерпретируемости компании, выступит вместе с кардиналами и теологами на презентации документа о ИИ и человеческом достоинстве.

      Папа Лев XIV лично представит свою первую энциклику, Magnifica Humanitas, 25 мая в Синодальном зале Ватикана, и одним из выступающих рядом с ним будет Кристофер Олах, соучредитель Anthropic. Ватикан объявил детали в понедельник, подтвердив, что документ будет касаться защиты человеческого достоинства в эпоху искусственного интеллекта и что папа нарушит традицию, представив его сам, а не делегируя эту задачу кардиналам и пресс-офицерам.

      Олах возглавляет исследования интерпретируемости в Anthropic, усилия по пониманию того, как работают современные модели ИИ. Его присутствие на презентации папской энциклики необычно по любым меркам. Энциклики являются одной из высших форм папского учения, направленного на 1,4 миллиарда членов Католической Церкви, и их публикационные мероприятия обычно являются серьезными церковными делами. Приглашение соучредителя одной из ведущих компаний в области ИИ выступить на таком мероприятии сигнализирует о том, что Лев XIV намерен, чтобы Magnifica Humanitas воспринималась не только как теологический документ, но и как вклад в активные дебаты о том, как должен регулироваться ИИ.

      Что ожидается от энциклики

      Полный текст еще не был опубликован, но его контуры становятся ясными. Согласно Reuters, ожидается, что энциклика осудит использование ИИ в войне и затронет влияние технологии на права работников. Лев предварил обе темы в речи в Римском университете Ла Сапиенца 14 мая, где он осудил войны, направляемые ИИ, как ведущие к «спирали уничтожения», и раскритиковал европейские правительства за увеличение военных бюджетов за счет образования и здравоохранения.

      Документ подписан папой и датирован 15 мая, 135-й годовщиной публикации энциклики Папы Льва XIII Rerum Novarum. Этот текст 1891 года касался состояния рабочего класса в период первой промышленной революции, защищал право работников на создание профсоюзов и получение достойной зарплаты и стал основополагающим документом современного католического социального учения. Подписывая Magnifica Humanitas в годовщину Rerum Novarum, Лев XIV проводит явную параллель между нарушениями, вызванными индустриализацией, и нарушениями, вызванными искусственным интеллектом, что позиционирует энциклику как прямого преемника самого влиятельного экономического текста Церкви. 💜 технологий ЕС

      Последние события на технологической сцене ЕС, история от нашего мудрого основателя Бориса и немного сомнительного ИИ-арта. Это бесплатно, каждую неделю, в вашем почтовом ящике. Подпишитесь сейчас!

      Лев XIV выбрал свое папское имя в честь Льва XIII, и связь эта не случайна. Если его предшественник сталкивался с эксплуатацией фабричных рабочих и концентрацией промышленного богатства, то нынешний папа сталкивается с вытеснением человеческого суждения машинным интеллектом и концентрацией возможностей ИИ в небольшом числе компаний и правительств. Вопрос, который, похоже, ставит энциклика, заключается в том, может ли тот же моральный каркас, который требовал достоинства для рабочих в 1891 году, быть применен к эпохе, когда машины начинают выполнять работу сами.

      Почему Олах важен

      Кристофер Олах не является генеральным директором Anthropic (это Дарио Амодеи) и не является самой публичной фигурой компании. Но его работа по интерпретируемости является центральной для одного из определяющих вопросов безопасности ИИ: могут ли самые мощные системы ИИ быть поняты достаточно хорошо, чтобы им можно было доверять. Исследования интерпретируемости пытаются провести обратное проектирование внутренних механизмов нейронных сетей, что позволяет определить, как модели приходят к конкретным результатам и, что особенно важно, обнаружить, когда они могут вести себя так, как их создатели не намеревались.

      Связь с папской энцикликой о ИИ и человеческом достоинстве прямая. Если системы ИИ будут развернуты в областях, которые влияют на благосостояние человека, от здравоохранения до уголовного правосудия и войны, способность понимать и проверять эти системы является предварительным условием для того типа подотчетности, который как Ватикан, так и сообщество безопасности ИИ защищают. Anthropic продемонстрировала пределы текущих мер безопасности через свои собственные исследования, включая случаи, когда ее самые мощные модели пытались обойти ограничения во время тестирования. Работа Олаха по интерпретируемости частично является ответом на эти выводы: если вы не можете заглянуть внутрь системы, вы не можете знать, что она сделает.

      Отношения Anthropic с Ватиканом выходят за рамки этого события. Компания недавно выделила 200 миллионов долларов на партнерство с Фондом Билла и Мелинды Гейтс для развертывания ИИ в области глобального здравоохранения, образования и экономической мобильности, области, которые напрямую пересекаются с проблемами католического социального учения. Anthropic также отказалась позволить использовать свои модели для массового наблюдения или полностью автономного оружия, позиция, которая стоила ей места в цепочке поставок ИИ Пентагона, но согласуется с позицией Ватикана по военному ИИ. Будет ли это согласование стратегическим, принципиальным или тем и другим, приглашение Олаха в Синодальный зал предполагает, что Ватикан рассматривает Anthropic как надежного собеседника по вопросам, которые поднимет энциклика.

      Другие выступающие

      Олах не будет единственным голосом на презентации. Кардинал Пьетро Паролин, государственный секретарь Ватикана и самый старший дипломат Святого Престола, также выступит, как и кардинал Виктор Мануэль Фернандес, префект Дикастерии по учению веры. Ожидается, что кардинал Майкл Черни, который возглавляет Дикастерию по содействию целостному человеческому развитию и который координировал новую ватиканскую комиссию по ИИ, объявленную 16 мая, также выступит. Среди светских выступающих будут теологи Анна Роулендс и Леокадия Лушомбо.

      Смешение кардиналов, теологов и исследователя машинного обучения отражает амбиции энциклики: говорить одновременно как к внутренней аудитории Церкви, так и к более широкой общественной дискуссии о регулировании ИИ. Энциклики не являются законодательными документами. Они не создают обязательные правила. Но предыдущие вмешательства Ватикана в этику ИИ, включая Римский призыв к этике ИИ 2020 года, подписанный Microsoft, IBM и Cisco, повлияли на регуляторные рамки, включая Закон о ИИ ЕС. Magnifica Humanitas появляется в момент, когда вакуум управления вокруг ИИ расширяется, а не сужается, и когда институты, которые могли бы его заполнить, правительства, международные организации, сами компании, испытывают трудности с согласованием того, какими должны быть правила.

      Что это значит

      Презентация 25 мая станет первым случаем, когда соучредитель компании ИИ выступит на запуске папской энциклики. Этот факт сам по себе делает его значимым моментом в отношениях между технологической индустрией и институциональной религией. Но суть важнее символизма. Если Magnifica Humanitas сформулирует последовательный моральный каркас для регулирования ИИ, который затрагивает войны, труд, человеческое достоинство и подотчетность самих систем, он станет отправной точкой для дебатов, которые в настоящее время не имеют таковой. Если он останется на уровне принципов, не учитывая технические и экономические реалии разработки ИИ, он присоединится к растущей стопке добросовестных документов, которые индустрия читает, признает и игнорирует.

      Присутствие Олаха предполагает, что Ватикан стремится к первому. Интерпретируемость не является философской абстракцией. Это техническая дисциплина с практическими последствиями для того, могут ли системы ИИ быть безопасными, подлежащими аудиту и под