La marca de agua de IA de Anthropic ya ha dado lugar a herramientas para eliminarla.

      El impulso de Anthropic por etiquetar el texto escrito por IA ha producido un movimiento en contra inmediato. Según Business Insider, los desarrolladores han comenzado a construir herramientas para eliminar esas etiquetas.

      Thibault Spirlet y Agnes Applegate informaron que un removedor se ha vuelto viral en GitHub. El interés en las herramientas está en aumento.

      La marca de agua es el desencadenante. Anthropic comenzó a marcar la salida de Claude en todo el mundo a partir del 2 de agosto. Incorpora un patrón estadístico en las elecciones de palabras del modelo. Ese patrón viaja con el texto copiado y pegado. La empresa dice que la marca es imperceptible para un lector. Algunos usuarios discreparon lo suficiente como para actuar.

      La reacción ha sido ruidosa. El interés en "removedor de marcas de agua de IA" en Google Trends de EE. UU. aumentó un 60 por ciento semana tras semana, informó Business Insider. Algunos suscriptores de Claude cancelaron su suscripción debido a la función. Otros buscaron una solución alternativa, y un puñado de desarrolladores construyó una.

      'La respuesta equivocada a un problema real'

      La herramienta más popular llegó rápido. Guillaume Meyer, un emprendedor con sede en París, lanzó un proyecto de código abierto llamado Watermarks Remover días después del anuncio de Anthropic, informó Business Insider.

      Meyer fundó la herramienta de comercio electrónico de IA Memo. Su removedor elimina caracteres ocultos y metadatos, luego reescribe el texto. Eso interrumpe el patrón de elección de palabras que lleva la marca, mientras mantiene el significado.

      La primera versión le tomó alrededor de cinco horas construir, dijo Meyer. Desde entonces ha recibido más de 14,000 estrellas en GitHub, una medida aproximada del interés de los desarrolladores. No garantiza que una marca de agua haya desaparecido.

      Meyer enmarcó su objeción con cuidado. “Estoy a favor de la atribución de contenido”, dijo a Business Insider. “Estoy en contra de la técnica de marcas de agua, y esa es una distinción muy significativa.”

      Su queja es que el método “trata la autoría como algo binario.” Marca el texto ya sea que Claude lo haya escrito directamente o solo haya ayudado a editarlo. “Creo que es la respuesta equivocada a un problema real”, dijo.

      No es el único. Sabrina Ramonov, una educadora de IA, dijo en X que construyó un removedor gratuito basado en navegador para las marcas de Claude y ChatGPT.

      “Las marcas de agua de IA castigan a los usuarios normales, no a los actores maliciosos”, escribió. Su herramienta afirma limpiar marcas ocultas de texto, PDFs, documentos de Word, páginas web, imágenes y archivos de datos, informó Business Insider.

      Ansh Aneja, un desarrollador con sede en Tokio, dijo que construyó un removedor enfocado en Claude el día del anuncio. Escribió que lo hizo después de leer una publicación del inversor Paul Graham.

      Aneja luego lanzó una versión local de código abierto llamada MarkScrub. Dijo que una versión anterior pasó de cero a 8,500 usuarios en un día, una cifra que Business Insider no pudo verificar.

      Anthropic ha rechazado la premisa. En una publicación de blog titulada Cómo funciona la marca de agua del texto de Claude, la empresa dijo que la marca “no dice nada sobre propiedad o autoría, y no cambia los derechos de un usuario bajo nuestros términos.”

      También dijo que la marca de agua no lleva información identificativa y no puede ser rastreada hasta una persona, organización o chat específico.

      La empresa enmarca la función como cumplimiento, no como vigilancia. Anthropic dice que agregó la marca de agua para cumplir con sus compromisos bajo la Ley de IA de la Unión Europea.

      La ley requiere que los proveedores marquen el texto generado por IA en una forma legible por máquina. Firmó el código de transparencia del bloque en julio junto a aproximadamente 190 otros signatarios, informó Mashable.

      Aún no puede limitar la marca a la UE. Así que está implementando la función a nivel mundial y extendiéndola a modelos más antiguos.

      Sobre la mecánica, Anthropic dice que la marca se basa en elecciones de palabras de bajo riesgo. Cuando varias palabras funcionarían igualmente bien, el modelo se inclina hacia una de ellas. Eso deja un rastro estadístico detectable, informó Mashable.

      La empresa dice que esto no añade costo, ni tokens adicionales, ni afecta de manera medible la calidad, y no respondió a las preguntas de Business Insider sobre las herramientas de eliminación.

      La redacción ha cubierto la tensión que los removedores están aprovechando. El propio diseño de Anthropic significa que un correo electrónico ligeramente corregido puede llevar una marca, mientras que un borrador de IA muy reescrito puede no llevar ninguna.

      ¿Por qué es difícil detenerlo?

      Los investigadores dicen que los removedores apuntan a un límite básico. “Siempre habrá formas de eliminar la marca de agua”, dijo Thibaud Gloaguen, un investigador en el laboratorio de Sistemas Seguros, Fiables e Inteligentes de ETH Zurich, a Business Insider. Dio el ejemplo de simplemente reformular un pasaje entero.

      Anthropic concede el mismo punto en efecto. Una reescritura pesada puede eliminar completamente la marca, ha dicho la empresa, en cuyo caso se vuelve debatible si el texto sigue siendo significativamente generado por IA.

      La marca de agua también es débil o está ausente en pasajes cortos, hechos duros, código preciso y matemáticas, donde hay poco margen para la variación.

      Konrad Kollnig, profesor asistente en el Laboratorio de Derecho y Tecnología de la Universidad de Maastricht, planteó el problema en términos contundentes. “Siempre que la herramienta de detección de marcas de agua se haga pública, cualquiera puede verificar contenidos generados por IA... y puede construir herramientas para eliminar marcas de agua”, dijo a Business Insider.

      Eso importa porque Anthropic planea lanzar una API de detección pública junto a su próximo modelo, sin fecha establecida aún.

      Un área legal gris

      Los removedores se encuentran en un espacio legal no resuelto. La UE dice a las empresas de IA que agreguen etiquetas duraderas, pero no establece claramente reglas para terceros que intentan eliminarlas, informó Business Insider.

      Un portavoz de la Comisión Europea dijo que la guía del bloque requiere que los sistemas de marcado de los proveedores soporten alteraciones comunes y ataques deliberados. El código de transparencia nombra la eliminación, regeneración, copia y modificación como amenazas que los proveedores deben evaluar, agregó el portavoz.

      Sin embargo, esas son obligaciones para los proveedores, no para el público. La Ley de IA no prohíbe expresamente a terceros intentar eliminar una marca de agua, dijo Dmitri Roussinov, un profesor senior en la Universidad de Strathclyde.

      Agregó una advertencia: si una herramienta de eliminación utiliza IA para regenerar el texto, su propio proveedor puede estar obligado a marcar esa nueva salida.

      Ni la Ley de IA ni los términos de Anthropic parecen prohibir a las personas hacer o compartir herramientas de eliminación, dijo Kollnig. El riesgo recae en otro lugar. La política de uso de Anthropic prohíbe presentar la salida del modelo como hecha por humanos, por lo que un usuario que elimine una marca para hacer pasar el trabajo de IA como propio aún podría meterse en problemas.

      Otras empresas, incluidas Google y OpenAI, también marcan imágenes, y ya existen herramientas para eliminar esas marcas. Incluso la música de IA ha sido marcada en el mismo impulso por la procedencia.

      La lucha que Anthropic ha comenzado, en otras palabras, es una que la industria más amplia ya conoce bien, y una que las reglas de etiquetado de la UE solo han agudizado.