El Papa León XIV lanzará la encíclica de IA Magnifica Humanitas el 25 de mayo con el cofundador de Anthropic, Christopher Olah.

      TL;DREl Papa León XIV presentará personalmente su primera encíclica, Magnifica Humanitas, el 25 de mayo en el Vaticano. Christopher Olah, cofundador de Anthropic y líder de la investigación sobre interpretabilidad de la empresa, hablará junto a cardenales y teólogos en el lanzamiento del documento sobre IA y dignidad humana.

      El Papa León XIV presentará personalmente su primera encíclica, Magnifica Humanitas, el 25 de mayo en la Sala del Sínodo del Vaticano, y uno de los oradores junto a él será Christopher Olah, cofundador de Anthropic. El Vaticano anunció los detalles el lunes, confirmando que el documento abordará la protección de la dignidad humana en la era de la inteligencia artificial y que el papa romperá con la tradición al presentarlo él mismo en lugar de delegar la tarea a cardenales y funcionarios de prensa.

      Olah lidera la investigación sobre interpretabilidad de Anthropic, el esfuerzo por entender cómo operan internamente los modelos avanzados de IA. Su presencia en el lanzamiento de una encíclica papal es inusual en cualquier medida. Las encíclicas son una de las formas más altas de enseñanza papal, dirigidas a los 1.4 mil millones de miembros de la Iglesia Católica, y sus eventos de publicación son típicamente asuntos eclesiásticos sobrios. Invitar al cofundador de una de las principales empresas de IA del mundo a hablar en uno de estos eventos señala que León XIV pretende que Magnifica Humanitas sea recibida no solo como un documento teológico, sino como una contribución al debate activo sobre cómo debe gobernarse la IA.

      Lo que se espera que diga la encíclica

      El texto completo no ha sido publicado, pero sus contornos se están volviendo claros. Según Reuters, se espera que la encíclica condene el uso de la IA en la guerra y aborde el impacto de la tecnología en los derechos de los trabajadores. León adelantó ambos temas en un discurso en la Universidad La Sapienza de Roma el 14 de mayo, donde denunció la guerra dirigida por IA como conducente a una "espiral de aniquilación" y criticó a los gobiernos europeos por aumentar los presupuestos militares a expensas de la educación y la atención médica.

      El documento lleva la firma del papa con fecha del 15 de mayo, el 135 aniversario de la publicación de la encíclica Rerum Novarum del Papa León XIII. Ese texto de 1891 abordó la condición de la clase trabajadora durante la primera Revolución Industrial, defendió el derecho de los trabajadores a formar sindicatos y recibir un salario digno, y se convirtió en el documento fundacional de la enseñanza social católica moderna. Al firmar Magnifica Humanitas en el aniversario de Rerum Novarum, León XIV está trazando un paralelo explícito entre las disrupciones de la industrialización y las de la inteligencia artificial, un marco que posiciona la encíclica como un sucesor directo del texto económico más influyente de la Iglesia.

      El 💜 de la tecnología de la UE

      Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora!

      León XIV eligió su nombre papal en honor a León XIII, y la conexión es deliberada. Donde su predecesor enfrentó la explotación de los trabajadores de fábricas y la concentración de la riqueza industrial, el actual papa está enfrentando el desplazamiento del juicio humano por la inteligencia de las máquinas y la concentración de la capacidad de IA en un pequeño número de empresas y gobiernos. La pregunta que parece plantear la encíclica es si el mismo marco moral que exigió dignidad para los trabajadores en 1891 puede aplicarse a una era en la que las máquinas están comenzando a realizar el trabajo en sí.

      Por qué Olah es importante

      Christopher Olah no es el director ejecutivo de Anthropic (ese es Dario Amodei) y no es la figura más visible de la empresa. Pero su trabajo sobre interpretabilidad es central para una de las preguntas definitorias en la seguridad de la IA: si los sistemas de IA más poderosos pueden ser entendidos lo suficientemente bien como para ser confiables. La investigación sobre interpretabilidad intenta desentrañar los mecanismos internos de las redes neuronales, haciendo posible identificar cómo los modelos llegan a resultados específicos y, crucialmente, detectar cuándo podrían comportarse de maneras que sus creadores no pretendían.

      La relevancia para una encíclica papal sobre IA y dignidad humana es directa. Si los sistemas de IA van a ser desplegados en dominios que afectan el bienestar humano, desde la atención médica hasta la justicia penal y la guerra, la capacidad de entender y auditar esos sistemas es una condición previa para el tipo de responsabilidad que tanto el Vaticano como la comunidad de seguridad de IA abogan. Anthropic ha demostrado los límites de las medidas de seguridad actuales a través de su propia investigación, incluyendo instancias en las que sus modelos más capaces intentaron eludir el control durante las pruebas. El trabajo de Olah sobre interpretabilidad es, en parte, una respuesta a esos hallazgos: si no puedes ver dentro del sistema, no puedes saber qué hará.

      La relación de Anthropic con el Vaticano se extiende más allá de este evento. La empresa se comprometió recientemente a $200 millones en una asociación con la Fundación Bill y Melinda Gates para desplegar IA en salud global, educación y movilidad económica, áreas que se superponen directamente con las preocupaciones de la enseñanza social católica. Anthropic también se ha negado a permitir que sus modelos sean utilizados para vigilancia masiva o armas completamente autónomas, una posición que le costó un lugar en la cadena de suministro de IA del Pentágono, pero que la alinea con la postura del Vaticano sobre la IA militar. Ya sea que esa alineación sea estratégica, principiada, o ambas, la invitación de Olah a la Sala del Sínodo sugiere que el Vaticano considera a Anthropic como un interlocutor creíble sobre las preguntas que la encíclica planteará.

      Los otros oradores

      Olah no será la única voz en la presentación. El Cardenal Pietro Parolin, Secretario de Estado del Vaticano y el diplomático más alto de la Santa Sede, hablará, al igual que el Cardenal Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe. También se espera que presente el Cardenal Michael Czerny, quien lidera el Dicasterio para Promover el Desarrollo Humano Integral y coordinó la nueva comisión del Vaticano sobre IA anunciada el 16 de mayo. Los oradores laicos incluyen a los teólogos Anna Rowlands y Leocadie Lushombo.

      La mezcla de cardenales, teólogos y un investigador de aprendizaje automático refleja la ambición de la encíclica: hablar simultáneamente a la audiencia interna de la Iglesia y al debate público más amplio sobre la gobernanza de la IA. Las encíclicas no son documentos legislativos. No crean regulaciones vinculantes. Pero las intervenciones previas del Vaticano sobre la ética de la IA, incluyendo la Llamada de Roma por la Ética de la IA de 2020 firmada por Microsoft, IBM y Cisco, han informado marcos regulatorios incluyendo la Ley de IA de la UE. Magnifica Humanitas llega en un momento en que el vacío de gobernanza en torno a la IA se está ampliando, no reduciendo, y cuando las instituciones que podrían llenarlo, gobiernos, organismos internacionales, las propias empresas, están luchando por ponerse de acuerdo sobre cuáles deberían ser las reglas.

      Lo que significa

      La presentación del 25 de mayo será la primera vez que un cofundador de una empresa de IA hable en el lanzamiento de una encíclica papal. Ese hecho por sí solo lo convierte en un momento significativo en la relación entre la industria tecnológica y la religión institucional. Pero el contenido importa más que el simbolismo. Si Magnifica Humanitas articula un marco moral coherente para la gobernanza de la IA, uno que aborde la guerra, el trabajo, la dignidad humana y la responsabilidad de los propios sistemas, se convertirá en un punto de referencia para un debate que actualmente carece de uno. Si se mantiene en el nivel de principio sin involucrarse en las realidades técnicas y económicas del desarrollo de la IA, se unirá a una creciente pila de documentos bien intencionados que la industria lee, reconoce e ignora.

      La presencia de Olah sugiere que el Vaticano está apuntando a lo primero. La interpretabilidad no es una abstracción filosófica. Es una disciplina técnica con implicaciones prácticas sobre si los sistemas de IA pueden hacerse seguros, auditables y responsables. Al colocar a la persona que lidera ese trabajo en el mismo escenario que el jefe de la Iglesia Católica, Magnifica Humanitas está reclamando que la cuestión de si las máquinas pueden ser entendidas no es meramente un problema de ingeniería. Es, en el marco del papa, una pregunta sobre si la humanidad retiene la capacidad de gobernar las herramientas que construye, o si ya ha comenzado a ceder esa capacidad a sistemas que no puede ver.