Un artículo escrito por IA no necesita etiqueta. Tu correo electrónico corregido recibe una.

      Comienza con lo que realmente es la marca, porque no es un sello en la página. Cuando un modelo escribe, elige cada palabra de un conjunto de opciones razonables.

      Una marca de agua divide silenciosamente esas opciones en dos grupos utilizando una clave secreta, luego empuja al modelo hacia un grupo. Una palabra no prueba nada. A través de 500 o 1,000 palabras, un detector que tiene la clave puede ver el patrón.

      Anthropic comenzó a marcar la salida de Claude el 2 de agosto, a nivel mundial en lugar de solo en Europa. No ha publicado el algoritmo ni ha lanzado un detector.

      Marca lo que Claude tocó, no lo que Claude escribió.

      Esta es la parte que la mayoría de la cobertura omitió, y Anthropic lo declara claramente en su propio artículo de soporte.

      Una marca detectada significa que el contenido "puede haber sido procesado por Claude". No significa que Claude lo escribió. Pide al modelo que revise, traduzca o resuma tu propia escritura, y la salida lleva la marca de todos modos.

      Lo inverso también es cierto. No tener marca no significa no tener IA. Pasajes cortos, parafraseo intenso, modelos más antiguos y metadatos de archivos eliminados producen texto limpio que una máquina aún ayudó a crear.

      Así que la señal tiene dos direcciones de fallo a la vez, y la empresa lo dice de manera clara.

      La ley eximió la corrección gramatical.

      Aquí es donde se pone extraño. La Ley de IA de la UE no requiere marcar cuando un sistema realiza una función asistencial para la edición estándar, y el propio ejemplo de la Comisión de eso es la corrección gramatical.

      Anthropic lo marca de todos modos. Ars Technica llamó a este enfoque "nukearlo desde la órbita".

      La razón es estructural más que ideológica. Una marca de agua aplicada a nivel de modelo no puede distinguir un borrador completo de una coma. Marca la salida, y la salida es todo lo que ve.

      El resultado es una marca que recae exactamente sobre el contenido que la ley fue escrita para dejar en paz.

      Y la etiqueta que casi nadie tiene que mostrar.

      Ahora mira la otra mitad del Artículo 50, la parte que regula lo que los editores deben decir a los lectores. Es mucho más estrecha de lo que la mayoría de la gente asume.

      Una novela escrita por IA no necesita etiqueta. Un texto publicitario generado por IA no necesita etiqueta. El texto que informa al público sobre asuntos de interés público sí necesita una, a menos que un editor humano nombrado y responsable lo haya revisado.

      Junta las dos mitades y obtienes la contradicción. Cada pulsación de tecla se marca a nivel de modelo, mientras que un artículo completamente sintético puede llegar a los lectores sin etiquetar porque un editor lo revisó.

      La UE ha estado construyendo esta maquinaria durante un tiempo. Ya ha hecho obligatorias las etiquetas para contenido sintético, y se ha dado poderes para inspeccionar y multar modelos directamente. La penalización aquí asciende a 15 millones de euros o el 3% de la facturación anual mundial.

      Las objeciones llegaron en un día.

      El inversor Bill Gurley argumentó que si solo Anthropic puede leer la marca, se convierte en "juez, jurado y fiscal". Anthropic le dijo a Business Insider que enviará una API de detección gratuita para que cualquiera pueda verificar.

      El exejecutivo de Microsoft Steven Sinofsky planteó una preocupación diferente. El problema, escribió, es "la retención de datos y tu derecho a pensamientos privados libres de un rastro digital".

      Simon Smith, quien dirige la IA generativa en la agencia de salud Klick, preguntó si una revisión gramatical ahora se marcaría como escrita por IA. La respuesta de Anthropic es la anterior: la marca muestra procesamiento, no autoría.

      El formador de software John Crickett hizo una pregunta más aguda sobre el código. Si el código generado por IA lleva una marca, ¿complica eso una reclamación de derechos de autor en la que el autor debe mostrar entrada humana?

      El caso de hacerlo de todos modos.

      Las objeciones no son toda la historia. El desarrollador Donn Felker señaló que marcar ayuda a los modelos a evitar entrenar con su propia salida, el problema que él llamó "una serpiente comiéndose a sí misma".

      Aadit Sheth de The Narrative Company presentó el caso del lector. Las audiencias deberían poder saber si las palabras que están leyendo reflejan el pensamiento de una persona.

      El razonamiento de la Comisión es aún más amplio. Quiere que las personas calibren su confianza, y nombra el fraude, la suplantación y el engaño al consumidor como los riesgos.

      Anthropic enmarca esto como cumplimiento más que como una postura. Está añadiendo marcas "para cumplir con la Ley de IA de la UE, y otros laboratorios están tomando pasos similares", dijo la empresa. También dice que la marca de agua no cambia el significado, la calidad o la legibilidad de las respuestas de Claude.

      Algunas preguntas permanecen abiertas. Ars Technica le pidió a la empresa un cronograma sobre la detección, sobre cualquier prueba de falsos positivos y falsos negativos, y sobre cómo las marcas se alinean con la exención de edición estándar.

      Anthropic envió una declaración que no abordó esos puntos. La tasa de falsos positivos es el número que más importa aquí, porque decide cuánto peso debe darle un profesor o un editor a la marca.

      No detendrá a nadie que esté intentando.

      La parte incómoda es que la marca atrapa a los honestos y se pierde en los deliberados. Pega texto marcado en un segundo modelo y pide una reescritura, y es probable que la señal se haya ido.

      La procedencia basada en archivos es aún más débil. Una captura de pantalla la elimina, y lo mismo hace cualquier editor de metadatos competente.

      El escritorio ha visto este fallo antes. El propio detector de IA de Meta pasó por alto imágenes recortadas, que es aproximadamente la cantidad de esfuerzo involucrado.

      También hay un costo silencioso. Para mantener la señal estadística intacta, el modelo a veces elige una palabra ligeramente peor que la que de otro modo habría elegido.

      Anthropic es el único que está haciendo texto.

      Este es el riesgo comercial, y es real. OpenAI se negó a comentar específicamente a TechRadar y en su lugar señaló una página de soporte.

      Esa página confirma que OpenAI marca imágenes y audio utilizando SynthID y metadatos C2PA. En texto, dice que expandir la procedencia a todas las modalidades es un objetivo, a medida que los estándares y las herramientas "continúan madurando".

      Google también utiliza SynthID. Ninguna de las dos empresas ha lanzado marcaje de texto, y ambas enfrentan el mismo requisito para vender sistemas generativos en la UE.

      Los modelos existentes tienen hasta el 2 de diciembre para cumplir. Hasta entonces, un laboratorio está llevando la fricción solo.

      Lo que la ley no toca en absoluto.

      El Artículo 50 requiere divulgación de que estás hablando con una máquina. No dice nada sobre lo que sucede con la conversación después.

      Investigadores de Stanford revisaron las políticas de privacidad de seis importantes desarrolladores de IA estadounidenses. Cada uno utilizó datos de chat de clientes para entrenar por defecto, y algunos los retuvieron indefinidamente.

      Así que la ley ahora marca la salida e ignora la entrada.

      Lo que lo resolvería.

      Dos cosas, y ambas son verificables. La primera es la API de detección, y específicamente su tasa de falsos positivos, porque una marca en el ensayo revisado de un estudiante lleva el mismo peso que una en una historia de noticias fabricada.

      La segunda es si OpenAI o Google lanzan el marcaje de texto antes del 2 de diciembre, o descubren que los estándares aún están madurando.

      Las etiquetas ya fallan sin nada de esto. X puso una etiqueta de "Hecho con IA" en la publicación de renuncia de la secretaria de prensa de la Casa Blanca que se va el miércoles, y luego la etiqueta desapareció silenciosamente.