El Papa León XIV dice al Vaticano que desarme la IA, en la primera encíclica de su pontificado.

      Magnifica humanitas llama a desmantelar el control monopolístico de la tecnología, descarta la guerra algorítmica y se presenta junto al cofundador de Anthropic, Chris Olah. El Papa León XIV utilizó la primera encíclica de su pontificado, publicada en Roma el lunes, para pedir el desarme de la inteligencia artificial. El documento de 245 párrafos, titulado Magnifica humanitas, enmarca la IA como una tecnología que ha comenzado a dominar a las personas a las que fue diseñada para servir, y argumenta que desarmarla significa restaurar la primacía moral del humano sobre el algoritmo. “Desarmar significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar”, escribió el papa. “Desarmar no significa rechazar la tecnología, sino prevenir que domine a la humanidad.” La encíclica es el acto más trascendental de su papado de un año, y la primera vez que un papa ha organizado una carta fundacional completa en torno a una tecnología emergente en lugar de una cuestión doctrinal o social. León, el primer papa americano y un exestudiante de matemáticas de Villanova, la firmó el 15 de mayo, el 135 aniversario de la Rerum novarum de León XIII, que estableció la enseñanza social católica para la era industrial. El marco es deliberado: esta encíclica se ofrece como su sucesora para la era de la IA. Sus objetivos centrales son la concentración y la guerra. El papa pidió que la IA se hiciera más “amigable con los humanos” y se liberara del “control monopolístico”, un lenguaje que ataca directamente a la media docena de empresas estadounidenses que ahora definen la frontera de la tecnología. Sobre la guerra, fue más contundente. “Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”, escribió. “La IA no elimina la inhumanidad intrínseca del conflicto, de hecho, solo puede provocar el conflicto más rápidamente y hacerlo más impersonal.” La elección del orador para el lanzamiento subrayó la línea. Christopher Olah, cofundador de Anthropic y jefe de investigación de interpretabilidad, se presentó junto a cardenales en la Sala del Sínodo del Vaticano el lunes por la mañana. Anthropic ha pasado los últimos dos meses en el centro de un debate global separado sobre las implicaciones de seguridad de Mythos, su modelo autónomo de descubrimiento de vulnerabilidades que ha encontrado miles de días cero en cada sistema operativo importante. La empresa ha chocado con la administración Trump sobre el uso de su tecnología en la guerra y la vigilancia. Sobre este último punto, la encíclica ahora se sitúa directamente frente a la Casa Blanca. El vicepresidente JD Vance, un converso católico cercano al primer inversor de OpenAI, Peter Thiel, fue preguntado sobre el documento en una conferencia de prensa el 19 de mayo. “Cuando el líder de la denominación cristiana más grande del mundo habla sobre un tema así, ciertamente tendrá alguna influencia”, dijo. “Y estoy seguro de que contendrá muchas ideas, algunas de las cuales probablemente estaré de acuerdo, algunas de las cuales puede que no.” En la misma conferencia reiteró que el presidente Donald Trump “quiere que ganemos la carrera de la IA contra todos los demás países del mundo”. La tensión próxima es más antigua que esta semana. Thiel pasó parte de marzo en Roma dando conferencias a puerta cerrada en el Palazzo Taverna sobre la figura del Anticristo, basándose en una tesis de que un gobierno tecnocrático mundial emergería bajo el pretexto de evitar catástrofes provocadas por la IA, nucleares o climáticas. El padre Paolo Benanti, asesor del Vaticano sobre IA, respondió en un artículo de opinión describiendo las conferencias como “un acto sostenido de herejía” contra el consenso liberal. León y Trump han discutido por separado sobre la guerra en Irán. Una encíclica, por diseño, no es un documento de política sino un marco moral bajo el cual se argumenta la política subsiguiente. Magnifica humanitas coloca la “dignidad humana” y “estándares compartidos de justicia social” en el centro de cualquier futura arquitectura regulatoria y descarta la guerra algorítmica. El Papa León XIV la presentó personalmente en lugar de delegarla a cardenales, una ruptura con la tradición. Se dirigió a los 1.4 mil millones de católicos del mundo. Se entendió la audiencia más amplia.