Todos los modelos de Claude que se lancen a partir de este mes tendrán una nueva habilidad. En todos los textos que generen serán capaces de incrustar una marca de agua imperceptible que los identificará como generados a partir de una inteligencia artificial. También marcará en los metadatos todos los archivos generados que formen parte de la respuesta, de forma similar a como otros motores generativos hacen con los vídeos o las fotografías.
Los modelos que la compañía lance en la Unión Europea desde el 2 de agosto incorporarán marcas de agua imperceptibles en el texto y metadatos firmados en los archivos. La medida se aplicará en todo el mundo, no solo en Europa
Todos los modelos de Claude que se lancen a partir de este mes tendrán una nueva habilidad. En todos los textos que generen serán capaces de incrustar una marca de agua imperceptible que los identificará como generados a partir de una inteligencia artificial. También marcará en los metadatos todos los archivos generados que formen parte de la respuesta, de forma similar a como otros motores generativos hacen con los vídeos o las fotografías.
La compañía aplicará el marcado en todos los productos construidos sobre Claude, desde la API a herramientas como «Claude Cowork», y también funcionará cuando se acceda a sus modelos a través de servicios de terceros (como AWS o Google Cloud). Esta marca sobrevivirá incluso al proceso de copiar y pegar el texto o pequeñas ediciones sobre el mismo.
La razón es el artículo 50 del Reglamento Europeo de Inteligencia Artificial. La norma exige que el contenido sintético sea detectable de forma automática y que los deepfakes y ciertos textos sobre asuntos de interés público vayan correctamente etiquetados.
Ninguna técnica disponible hoy cumple al completo los requisitos que pide la norma, pero Anthropic cree que usando la doble aproximación de marca de agua e identificación con metadatos será suficiente para seguir el espíritu del acuerdo que varias empresas tecnológicas ya han firmado de forma voluntaria en Bruselas. Los metadatos seguirán el estándar abierto C2PA (el mismo que utilizan Adobe, Microsoft y buena parte de la industria fotográfica) y permiten además detectar si un archivo se ha manipulado después.
Google utiliza un sistema alternativo pero parecido en funciones, SynthID, que también ha sido adoptado por Apple, ElevenLabs, Kakao, Nvidia y OpenAI.
Anthropic, por ahora, no ha dicho exactamente el proceso que seguirá para marcar el texto y que esta marca de agua sobreviva a la manipulación, pero lo más probable es que a la hora de seleccionar los diferentes tokens en la respuesta (generalmente un token equivale a una palabra, aunque no siempre) use un patrón estadístico muy concreto que pueda ser fácil de identificar a posteriori por la misma IA.
Una marca de agua detectada no probaría necesariamente que Claude escribiera el contenido. Mucha gente usa el modelo para corregir, traducir o resumir material previamente generado, y la ausencia de marca de agua tampoco prueba necesariamente nada porque podría desaparecer si el texto se parafrasea o se traduce, se mezcla con otro o si el fragmento es demasiado corto para poder incrustar la señal estadística. Aun así, es un primer paso para identificar el contenido de texto generado por IA.
Anthropic está trabajando también en añadir la herramienta de marcas de agua a los modelos de Claude anteriores, y Bruselas ha dado un plazo de seis meses a las empresas para que actualicen el resto de los ya publicados. En septiembre arrancarán dos grupos de trabajo con ingenieros de todas las compañías que han aceptado incluir sistemas de detección para intercambiar experiencias de la implementación.
Tecnología – Píxel
