Desde el escenario del Vaticano, Chris Olah de Anthropic dice que la IA no puede ser guiada solo por los laboratorios de IA.

      Sentado junto al Papa León XIV en el lanzamiento de Magnifica humanitas, el líder de interpretabilidad de la empresa admitió que los incentivos de los laboratorios de frontera pueden alejar a los investigadores de hacer lo correcto. Christopher Olah, cofundador de Anthropic y jefe de su investigación en interpretabilidad, utilizó su asiento en el Vaticano el lunes para hacer un argumento que ningún líder de una importante empresa de IA había hecho anteriormente en una plataforma de esa escala: el desarrollo de IA de frontera no puede dejarse a los laboratorios de IA de frontera. Olah habló en la presentación formal de la primera encíclica del Papa León XIV, Magnifica humanitas, en la Sala del Sínodo del Vaticano. “Cada laboratorio de IA de frontera”, dijo, “opera dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto.” Incluso los investigadores bien intencionados, añadió, permanecen dentro de esas fuerzas. La conclusión que sacó fue que el escrutinio externo, por parte de líderes religiosos, gobiernos e instituciones de la sociedad civil, era esencial. El 💜 de la tecnología de la UE Los últimos rumores de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! La otra mitad del discurso fue sobre el trabajo. Olah dijo a la sala que había “una posibilidad real” de que la IA desplazara el trabajo humano “a gran escala”, y que, “si eso sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas.” La línea es el reconocimiento público más específico hasta la fecha por parte de un fundador de laboratorio de frontera de que la tecnología que su empresa está construyendo puede, según sus propias proyecciones internas, desplazar el empleo más rápido de lo que el mercado laboral puede reabsorber. La presencia de Anthropic en el Vaticano ya se ha convertido, en las últimas dos semanas, en el reposicionamiento más visible del año para cualquier empresa de IA. La firma anticipó la relación al anunciar una oficina en Milán; ahora se encuentra dentro de la declaración más trascendental de la Iglesia Católica sobre una tecnología desde que la Rerum novarum de León XIII abordó el capital industrial en 1891. El papel específico de Olah, liderando la investigación en interpretabilidad de la empresa, es tratado por la firma como su mayor reclamo de credibilidad en seguridad: él dirige el equipo que intenta desentrañar lo que los modelos de frontera están realmente haciendo por dentro. El trasfondo político es el inverso del moral. Anthropic pasó la primavera en el centro de dos confrontaciones separadas con el gobierno de EE. UU. El Pentágono expulsó a la empresa de su trabajo de IA clasificado más alto en abril debido a las propias restricciones de uso de la firma, y luego firmó acuerdos con Nvidia, Microsoft y AWS en su lugar. La administración Trump bloqueó una expansión de Mythos, el modelo autónomo de descubrimiento de vulnerabilidades que ha sacudido la gobernanza de la ciberseguridad bancaria a nivel global. La aparición de Olah en el mismo escenario que el papa, pidiendo supervisión externa, se presenta como una respuesta directa. También se presenta en un momento de particular peso comercial para la empresa. Anthropic está en conversaciones para recaudar $30 mil millones a una valoración de $900 mil millones. La disonancia es aguda en la página, y Olah no pretendió que no lo fuera. “Empresas como la nuestra”, dijo a la sala, operan bajo “fuertes presiones comerciales, geopolíticas y personales que pueden estar en desacuerdo con los intereses más amplios de la sociedad.” El argumento no era que Anthropic esté fuera de esas presiones. Era que la respuesta a ellas se encuentra fuera del laboratorio. Lo que la encíclica pide a los gobiernos y a la sociedad civil en términos concretos, y lo que la invitación de Olah se traducirá en la relación de Anthropic con los reguladores de EE. UU., es la parte no resuelta. Magnifica humanitas no nombra políticas; nombra un marco. El discurso de Olah en el lanzamiento hizo lo mismo. Ambos, de hecho, se negaron a externalizar la arquitectura regulatoria de la próxima década a las empresas que han pasado los últimos tres años construyendo la tecnología que regulará. La elección del mensajero tampoco fue sutil. Olah es el fundador de un laboratorio de IA que le dice a una audiencia que incluye cardenales, al papa y a una Casa Blanca atenta, que los laboratorios de IA no pueden hacer esto solos. Si ese argumento mueve políticas prácticas es una pregunta abierta. Que un fundador de laboratorio de frontera lo haya hecho desde dentro del Vaticano es, en sí mismo, la noticia.