Папа Лев XIV призывает Ватикан разоружить ИИ в первой энциклике своего понтификата.

      Магнифика хуманитас призывает к разрушению монополистического контроля над технологиями, исключает алгоритмическую войну и представляется вместе с соучредителем Anthropic Крисом Олахом. Папа Лев XIV использовал первую энциклику своего понтификата, опубликованную в Риме в понедельник, чтобы призвать к разоружению искусственного интеллекта. Документ из 245 параграфов под названием Магнифика хуманитас рассматривает ИИ как технологию, которая начала доминировать над людьми, для которых она была создана, и утверждает, что разоружение означает восстановление морального превосходства человека над алгоритмом. «Разоружить означает дискредитировать предположение, что техническая мощь автоматически предоставляет право управлять», — написал папа. «Разоружить не означает отвергать технологии, а предотвращать их доминирование над человечеством». Энциклика является самым значительным актом его годичного понтификата и впервые папа организовал целое основополагающее письмо вокруг новой технологии, а не доктринального или социального вопроса. Лев, первый американский папа и бывший студент математики в Вилланове, подписал ее 15 мая, в 135-ю годовщину Rerum novarum Льва XIII, которая изложила католическое социальное учение для индустриальной эпохи. Формулировка преднамеренная: эта энциклика предлагается как ее преемник для эпохи ИИ. Ее центральные цели — концентрация и война. Папа призвал сделать ИИ более «дружественным к человеку» и освободить от «монополистического контроля», язык, который прямо направлен против полудюжины американских компаний, которые сейчас определяют границы технологии. По поводу войны он был резче. «Ни один алгоритм не может сделать войну морально приемлемой», — написал он. «ИИ не устраняет внутренней бесчеловечности конфликта, на самом деле он может лишь ускорить конфликт и сделать его более безличным». Выбор спикера для запуска подчеркивал эту линию. Кристофер Олах, соучредитель Anthropic и глава исследований интерпретируемости, выступил вместе с кардиналами в зале Синода Ватикана в понедельник утром. Anthropic провела последние два месяца в центре отдельной глобальной дискуссии о последствиях безопасности Mythos, своей модели автономного обнаружения уязвимостей, которая нашла тысячи нулевых дней во всех основных операционных системах. Компания столкнулась с администрацией Трампа из-за использования своей технологии в войне и наблюдении. По этому последнему пункту энциклика теперь находится прямо напротив Белого дома. Вице-президент JD Vance, католический конверт, близкий к раннему инвестору OpenAI Питеру Тилю, был спрошен о документе на пресс-брифинге 19 мая. «Когда лидер крупнейшей христианской деноминации в мире говорит по такому вопросу, это, безусловно, окажет влияние», — сказал он. «И я уверен, что в нем будет много идей, с некоторыми из которых я, вероятно, соглашусь, а с некоторыми — нет». На том же брифинге он повторил, что президент Дональд Трамп «хочет, чтобы мы выиграли гонку ИИ против всех других стран мира». Ближайшее напряжение старше этой недели. Тиль провел часть марта в Риме, проводя закрытые лекции в Палаццо Таверна о фигуре Антихриста, опираясь на тезис о том, что однополярное технократическое правительство возникнет под предлогом предотвращения катастроф, вызванных ИИ, ядерным оружием или изменением климата. Отец Паоло Бенанти, советник Ватикана по ИИ, ответил в статье, описывающей лекции как «постоянный акт ереси» против либерального консенсуса. Лев и Трамп отдельно спорили по поводу войны в Иране. Энциклика, по замыслу, не является документом политики, а моральной рамкой, в рамках которой обсуждаются последующие политики. Магнифика хуманитас ставит «человеческое достоинство» и «общие стандарты социальной справедливости» в центр любой будущей регуляторной архитектуры и исключает алгоритмическую войну из нее. Папа Лев XIV представил ее лично, а не делегировал кардиналам, что является отступлением от традиции. Он обратился к 1,4 миллиардам католиков мира. Широкая аудитория была понятна.