Los escritos del Papa León certificaron lo humano, utilizando detectores de IA.

      Para defender a un Papa anti-IA de las afirmaciones de que una máquina ayudó a escribir sus palabras, su campamento recurrió a una herramienta poco probable: la IA. Una empresa australiana ha certificado los escritos del Papa León XIV como de autoría humana, utilizando un conjunto de los mismos detectores que la tecnología ha generado.

      El Papa León XIV ha hecho de la IA uno de sus temas definitorios. Su primera encíclica, Magnifica Humanitas, publicada en mayo, advirtió que la tecnología podría llegar a dominar a la humanidad. Ahora, una colección de sus reflexiones sobre educación e IA, Mapas de Esperanza, ha sido certificada como de autoría humana.

      El trasfondo incómodo

      La certificación sigue a un episodio incómodo. Poco después de que apareciera la encíclica, el investigador de IA Linch Zhang argumentó en un análisis ampliamente compartido que partes de ella llevaban las huellas de la IA. Señaló el uso intensivo de guiones largos, la palabra “genuinamente” y tríadas retóricas, y sugirió que el probable culpable era Claude de Anthropic.

      El detector Pangram marcó algunos pasajes. The Verge hizo la pregunta obvia: ¿utilizó el Papa IA para escribir sobre los peligros de la IA? Zhang enfatizó que probablemente eran funcionarios del Vaticano, no el propio León. El Vaticano nunca confirmó la afirmación, y nunca se probó.

      Entrando en los certificadores humanos

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! Ese es el contexto para el nuevo sello de aprobación. Proudly Human está dirigido por el ex científico jefe de Australia, Alan Finkel. Verificó Mapas de Esperanza como de autoría humana y le otorgó la marca de confianza de la empresa. El libro fue producido por la Universidad Católica Australiana con el Dicasterio para la Cultura y la Educación del Vaticano. Lleva un prólogo del Cardenal José Tolentino de Mendonça.

      Finkel enmarca la certificación como el objetivo principal de la empresa. “Con la atención del Papa centrada en la cuestión de la IA y la autoría humana, te dice que este ya no es un debate de nicho”, dijo. “Es la pregunta definitoria de nuestro tiempo.”

      El proceso es parte papeleo, parte máquina. Los autores verifican su identidad y firman una declaración de que la IA no escribió el primer borrador, ni ninguna oración. Proudly Human luego pasa el texto por lo que Finkel llamó “un conjunto de cuatro o cinco” detectores de IA, además de su propio algoritmo de promediado. Juzgó la colección “básicamente puramente humana.” Para garantizar lo humano, en otras palabras, se apoya en la máquina.

      Un ‘derecho fundamental’

      La propuesta de Finkel es que, sin leyes que obliguen a los escritores a divulgar el uso de IA, los lectores merecen saber quién, o qué, produjo un texto. “De hecho, creo que es un derecho fundamental”, dijo. Eso es especialmente cierto para figuras religiosas, argumentó, donde una congregación espera la genuina sabiduría de la persona que da el sermón.

      Aprovecha un creciente apetito por pruebas de que una persona, no un programa, hizo el trabajo. El problema es que la detección de IA no es una ciencia resuelta. Los detectores no están de acuerdo entre sí, y fallan.

      El problema con los detectores

      The Atlantic ha advertido que confiar demasiado en herramientas como Pangram arriesga convertir acusaciones en una caza de brujas. Algunos escritores humanos son marcados simplemente porque la IA aprendió a escribir como ellos. Un certificado, entonces, es solo tan confiable como los detectores detrás de él, y esos detectores siguen siendo falibles.

      El episodio aún captura hacia dónde se dirige la lucha sobre la IA. A medida que el texto escrito por máquinas inunda la web, la procedencia se está convirtiendo en la moneda de la confianza, y un negocio. Proudly Human presenta su sello como la etiqueta orgánica o de comercio justo para la escritura humana. Que el caso de prueba sea el Papa, y el árbitro una herramienta de detección de IA, solo agudiza el punto.