Claude se está volviendo ambicioso con las marcas de agua, y puedo oler los problemas a millas de distancia.

      Anthropic quiere hacer que el texto generado por IA sea más fácil de identificar, y en teoría, tengo muy pocas razones para quejarme. La empresa está experimentando con una marca de agua invisible que se puede incorporar directamente en el texto generado por Claude.

      Suena como una idea sensata. El texto generado por IA está en todas partes, y saber de dónde proviene algo podría ayudar sin duda. Además, Anthropic no está simplemente ocultando un marcador en algún lugar dentro de un documento. Su enfoque cambia cómo Claude selecciona palabras para crear un patrón estadístico que luego puede ser detectado.

      Pero hay un detalle que me molesta. Anthropic está probando cuán persistente puede ser esa marca de agua, incluso después de que el texto ha sido modificado.

      Ahí es donde ya puedo olfatear problemas.

      Nadeem Sarwar / Digital Trends

      Claude tocó mi escritura. ¿Realmente la escribió?

      Piensa en la traducción por un momento. Supongamos que alguien escribe un ensayo completo por sí mismo en español y le pide a Claude que lo traduzca al inglés. Las ideas son suyas. La investigación es suya. Los argumentos son suyos. El único trabajo de Claude es la traducción.

      Sin embargo, el texto resultante aún podría llevar la marca de agua de Claude.

      La misma pregunta se aplica a la corrección de textos. ¿Qué pasa si alguien escribe algo por sí mismo y le pide a Claude que corrija la gramática? ¿Qué pasa con acortar un párrafo, cambiar su tono, limpiar un texto dictado o simplemente hacer que una oración incómoda sea más fácil de leer?

      Estos ya no son usos marginales de la IA. Las personas recurren cada vez más a asistentes como ChatGPT, Gemini y Claude para tareas cotidianas que tienen poco que ver con la generación de trabajo original. Una marca de agua puede decirte que Claude estuvo involucrado en un texto. No puede decirte si Claude realmente lo escribió. Anthropic hace el mismo punto, diciendo que la marca de agua muestra la participación de Claude, no quién creó el trabajo original.

      Ahora imagina explicar esa distinción a un profesor después de que su software de detección acaba de marcar tu ensayo.

      Unsplash

      Ya sabemos cuán desordenada puede ser la detección de IA

      No me preocuparía tanto si nuestro historial con la detección de IA fuera particularmente bueno. No lo es.

      La guía del MIT Sloan es bastante clara sobre los detectores de IA existentes. Dice que tienen altas tasas de error y pueden llevar a los instructores a acusar falsamente a los estudiantes de mala conducta.

      Ya hemos visto cómo se ve eso en la práctica. Los estudiantes se han encontrado defendiendo trabajos que dicen haber escrito ellos mismos después de que sistemas automatizados los identificaron como generados por IA. En un caso documentado por The Guardian, el ensayo de un estudiante fue marcado como completamente generado por IA a pesar de que el estudiante decía que solo había utilizado asistencia de ortografía y gramática aprobada. La apelación fue finalmente aceptada.

      Para ser claros, la marca de agua de Claude es fundamentalmente diferente. Los detectores de IA convencionales analizan la escritura y esencialmente estiman si una IA podría haberla producido. Anthropic está plantando deliberadamente una señal detectable en la salida de Claude. En teoría, eso debería hacer que su sistema sea considerablemente más confiable. Pero la confiabilidad no es el único problema aquí. La interpretación lo es.

      Nadeem Sarwar / Digital Trends

      Estamos usando IA para probar que no usamos IA

      Las cosas ya han alcanzado un punto ligeramente ridículo.

      Los estudiantes preocupados por la detección de IA están recurriendo a los llamados humanizadores de IA, que reescriben texto específicamente para hacerlo menos probable que active los detectores. Algunos estudiantes incluso están utilizando estas herramientas en trabajos que escribieron ellos mismos porque están preocupados por falsos positivos. Las empresas de detectores, naturalmente, están desarrollando formas de identificar a los humanizadores.

      Lee eso de nuevo.

      Un humano puede escribir algo, preocuparse de que una IA piense que una IA lo escribió, pasarlo por otra IA para hacerlo parecer más humano y luego tener otro sistema que determine si la IA lo hizo parecer humano.

      Es un ouroboros tecnológico.

      Hacer que la marca de agua de Claude sea lo suficientemente resistente como para sobrevivir a la edición y la traducción es técnicamente impresionante. Investigaciones anteriores han demostrado que la traducción puede derrotar algunas técnicas de marcaje de texto, por lo que resolver esa debilidad representaría un progreso significativo.

      Simplemente no creo que hacer que la señal sea más difícil de eliminar resuelva el problema más importante.

      Rachit Agarwal / Digital Trends

      Una marca de agua necesita contexto

      Hay buenas razones para marcar el contenido generado por IA. Podría ayudar a identificar desinformación producida en masa, texto sintético no divulgado o material escrito por IA que luego termina en conjuntos de datos de entrenamiento.

      El problema es que los asistentes de IA ahora hacen mucho más que generar contenido desde cero. Las personas los utilizan para traducir texto, corregir documentos, resumir investigaciones, ayudar con código, mejorar la accesibilidad o simplemente limpiar un correo electrónico antes de enviarlo. En ese contexto, detectar la participación de la IA no te dice automáticamente quién creó realmente el trabajo.

      Todas esas interacciones involucran a la IA en grados muy diferentes. Si Claude escribe un ensayo desde cero, saber eso es útil. Si Claude traduce un ensayo que alguien pasó tres semanas investigando y escribiendo por sí mismo, saber que Claude estuvo involucrado te dice considerablemente menos.

      La marca de agua puede ser perfectamente capaz de responder "¿Claude tocó esto?" Mi preocupación es qué sucede cuando las personas comienzan a tratar la respuesta como prueba de "¿Claude escribió esto?"

      Anthropic puede construir la marca de agua más inteligente del mundo. A menos que las personas que la utilizan entiendan esa diferencia, sospecho que vamos a tener algunos problemas.