Substack añade detección de IA para combatir el 'Claudefishing'

      Substack tiene un nombre para el momento en que te das cuenta de que una publicación que admirabas por su voz humana en realidad provino de un bot: Claudefishing. Ahora está entregando a los lectores un botón para detectarlo, impulsado por el detector de IA Pangram.

      La plataforma de boletines ha lanzado una función de detección de IA. En una publicación contundente titulada “Contra el Claudefishing”, el director ejecutivo Chris Best dijo que los lectores ahora pueden escanear publicaciones, notas, respuestas y comentarios. La herramienta estima cuánto del texto fue escrito por una persona y cuánto vino con asistencia de IA.

      El escaneo funciona en textos de más de 100 palabras, publicados desde hoy en adelante, y el resultado solo se muestra a la persona que lo solicita. Está disponible en la web y en iOS, con Android por venir.

      Lo que significa Claudefishing

      Best es cuidadoso al decir que el problema no es la IA en sí. Substack utiliza IA para construir software y características de productos, señaló, y muchos escritores dependen de ella de manera reflexiva. El problema es la descoordinación: lectores invirtiendo su atención en algo sin pensamiento humano detrás. “Claude tiene mucho que ofrecer,” escribió. “Pero cuando quiero la opinión de Claude, le preguntaré a Claude.”

      Las apuestas están aumentando rápidamente. Pangram estima que hasta el 40% del texto en algunas plataformas sociales ahora es generado por IA. Substack, que se presenta como un motor económico para la cultura construido sobre la confianza entre las personas, quiere evitar que su feed se convierta en ese tipo de basura.

      No es una prohibición

      Las herramientas funcionan en ambas direcciones. Los escritores pueden ejecutar el detector en sus propios borradores antes de publicar, agregar una declaración de “Cómo hice esto” para explicar su proceso y reportar cualquier escaneo de su trabajo que consideren erróneo. Substack enmarca todo esto en una línea simple: las personas deben saber lo que están obteniendo.

      Es un movimiento inusualmente directo en un mercado ahogado en feeds generados por IA. La publicación incluso lanzó un dardo a LinkedIn, la plataforma que muchos ven como el epicentro de la sinceridad escrita por máquinas.

      El problema

      El inconveniente es que la detección de IA no es una ciencia establecida. Pangram es precisa, pero no perfecta, y The Atlantic ha advertido que confiar demasiado en ella arriesga convertir acusaciones en una caza de brujas. Substack mismo concede que la herramienta no puede decir si se puso verdadero cuidado en una pieza, solo si la IA moldeó las palabras.

      Los críticos van más allá. Cualquier detector, argumentó el desarrollador Perry Metzger, te permite ajustar una IA para evadirlo, por lo que tales herramientas no pueden funcionar por mucho tiempo. El investigador Mor Naaman llamó a la detección una batalla perdida: si los lectores escanean, los escritores también escanearán y encontrarán formas de eludirlo. Como lo expresó un comentarista de Substack, la presencia de IA no prueba la ausencia de un humano.

      Un negocio muy humano

      Debajo de todo esto hay una apuesta. Como lo expresó Peter Kafka de Business Insider, si la IA gana, “hecho por humanos” podría ser un muy buen negocio. Substack está apostando a que la prueba de que una persona hizo el trabajo se convierta en algo escaso y vendible. Que la lucha se esté desarrollando sobre boletines, de todos los lugares, solo muestra cuán lejos llega ahora la pregunta.