Anthropic aclara los detalles de la marca de agua en los textos de Claude

Anthropic ha proporcionado detalles técnicos sobre el sistema de marca de agua que aplicará en los textos generados por Claude tras cumplir con la normativa europea sobre contenido de IA.

El laboratorio de Inteligencia Artificial Anthropic ha aclarado varios aspectos sobre la marca de agua que aplicará en todos los textos generados por Claude en la aplicación web, API, Claude Code, Claude Cowork y Claude Tag. La compañía reveló la semana pasada que implementaría marcas de agua tras la firma del Código de Buenas Prácticas sobre la Transparencia del Contenido Generado por IA, que forma parte de la Ley de la IA de la Unión Europea.

El algoritmo utilizado es una versión de SynthID-Text, desarrollado por Google DeepMind, que se basa en las elecciones de bajo riesgo entre palabras igualmente válidas. Solo cambia la fuente de la aleatoriedad con que el modelo elige palabras, utilizando una clave matemática y las palabras previas para decidir la siguiente palabra e incrustar la marca de agua.

De este modo, Claude crea en sus respuestas un patrón indetectable para el lector, pero que es reconocible para quien tenga la clave que lo codifica. Anthropic ha puntualizado que la incrustación de la marca de agua no conlleva ni latencia ni sobrecoste en tokens o en la API, y que no guarda ningún tipo de dato personal del usuario u organización del chat.

La marca no funciona como un sí o no rotundo, sino como una probabilidad. Si detecta el patrón, indicará "probablemente pasó por Claude", aunque no funciona a la inversa: si no encuentra marca, no significa que lo escribiera una persona. Cada proveedor de IA incluye su propia clave, por lo que no hay un detector universal. Claude se diferencia de ChatGPT o Gemini en este aspecto.

Para que la detección funcione mejor, cuantas más palabras contenga el texto, más fiable será la marca. En textos cortos apenas ofrece señal porque el patrón no puede construirse sobre pocas palabras. En el caso del código o las correcciones, la marca no se puede incrustar al no existir elección libre entre palabras.

Anthropic ha confirmado que próximamente lanzará una API de detección. Asimismo, toda traducción que se haga sí llevará una marca porque cada palabra la elige Claude.

La medida ha generado reacciones dispares entre los usuarios. Según el medio especializado Business Insider, inicialmente pasaron de criticar la medida a dejar de pagar la suscripción de la IA de Anthropic como consecuencia de la decisión de incorporar marcas de agua.