Anthropic va marquer tous les textes générés par Claude avec un filigrane invisible
Afin de se conformer à la nouvelle législation européenne, Anthropic va intégrer dans les contenus générés par son IA Claude un filigrane invisible qu'il sera difficile de supprimer. Enfin, en théorie, car le système a ses limites.
Vous avez l'habitude de confier la rédaction de vos mails à une IA en espérant que votre interlocuteur ne le remarque pas, ou de demander à un chatbot de vous aider dans votre dernier devoir ? Attention, vous ne pourrez plus longtemps faire illusion ! Anthropic, l'entreprise américaine derrière l'IA Claude, annonce mettre en place un système de marquage invisible destiné à signaler les textes et les fichiers produits par ses modèles d'intelligence artificielle. Une mesure qui répond aux nouvelles obligations de transparence prévues par le règlement européen sur l'intelligence artificielle, mais qui sera appliquée dans le monde entier.
Ainsi, tous les modèles Claude lancés à partir du 2 août vont d'ores et déjà se plier à cette exigence, a indiqué Anthropic sur une page de support dédiée. Pour ceux sortis à une date antérieure, la loi prévoit une période de transition allant jusqu'au 2 décembre 2026. Et ce changement ne s'appliquera pas seulement au sein de l'Union européenne, mais dans tous les pays où son chatbot est disponible.
Anthropic : un système d'étiquetage pour les contenus générés par Claude
Depuis le 2 août 2026, l'article 50 de l'AI Act impose aux fournisseurs de modèles d'intelligence artificielle générative de marquer les contenus qu'ils créent "dans un format lisible par machine et identifiables comme ayant été générés ou manipulés par une IA", afin que les internautes puissent savoir qu'ils n'ont pas été créés uniquement par un humain (voir notre article). Sont concernés la plupart des productions générées ou manipulées par des systèmes d'IA, qu'il s'agisse de textes, d'images, de sons ou de vidéos, à quelques exceptions près. Les modalités techniques restent toutefois à la discrétion des entreprises, qui peuvent choisir leur propre méthode pour respecter cette obligation.
Pour se conformer à la législation, Anthropic a choisi de mettre en place un système directement intégré à ses modèles Claude. Pour les textes, l'entreprise va insérer un filigrane invisible au sein même du contenu généré. Il ne s'agira pas d'un logo, d'une mention "généré par une IA" ou d'un élément visible à l'écran. Le marquage va reposer sur la manière dont le texte est produit et devra rester imperceptible pour le lecteur. Il ne modifiera ni le sens, ni la qualité, ni la lisibilité des réponses. Et, surtout, comme il sera intégré directement dans le contenu généré, il ne disparaîtra pas lorsqu'un utilisateur copiera la réponse pour la coller ailleurs. Un texte généré dans Claude puis transféré dans un e-mail, un document Word, un message Slack ou un autre service pourra donc conserver le marquage.
Anthropic prévoit d'appliquer ce système à Claude, mais aussi à son API, à Claude Code, Claude Cowork et Claude Tag. Les contenus produits par des modèles compatibles accessibles par l'intermédiaire d'AWS, de Google Cloud ou de Microsoft Foundry seront également concernés.
Pour ce qui est des fichiers, Anthropic a prévu une autre méthode. Les contenus compatibles, notamment les images aux formats PNG et JPEG ainsi que les fichiers SVG, incluront quant à eux des métadonnées indiquant leur origine. Elles s'appuieront sur le standard ouvert C2PA (Coalition for Content Provenance Authenticity), conçu pour fournir des informations sur l'origine et les modifications successives d'un fichier. Notons toutefois que ce type de marquage ne sera pas forcément pris en charge par toutes les plateformes sur lesquelles les modèles de l'entreprise sont proposés.
Si la législation qui oblige Anthropic à adopter cette approche concerne uniquement l'Union européenne, l'entreprise a décidé de mettre en place son système de marquage partout dans le monde. Une excellente nouvelle !
Anthropic : un système de marquage faillible et limité
Ces procédés ont toutefois leurs limites, dont il faut être clairement conscient. Anthropic écrit noir sur blanc qu'une marque détectée signale seulement qu'un contenu "peut avoir été traité par Claude". En effet, si le marquage indique qu'une intelligence artificielle a bel et bien participé à la création ou à la modification d'un contenu, il ne permet pas de connaître l'ampleur de cette intervention. Un utilisateur peut tout à fait demander au chatbot de rédiger un texte complet, mais aussi de simplement corriger son orthographe, de vérifier les erreurs factuelles ou de reformuler certains passages. Or, un texte initialement rédigé par un humain puis simplement corrigé par Claude risque de se retrouver identifié comme ayant été traité par l'IA, sans qu'il soit possible de déterminer que l'intervention s'est limitée à une correction.
Mais l'inverse est également vrai. L'absence de marque ne permettra pas d'affirmer qu'un contenu a été entièrement produit par un humain. Anthropic reconnaît lui-même que certaines transformations peuvent rendre le filigrane indétectable. Une modification importante du texte, par exemple, ou un texte trop court peut suffire à perturber le signal. Pour les fichiers, les métadonnées de provenance peuvent également disparaître lors de certaines opérations, par exemple à la suite d'une conversion de format ou avec une capture d'écran.
Pour l'instant, l'entreprise n'a pas encore détaillé le fonctionnement technique de son filigrane textuel. Elle a cependant promis de fournir rapidement une documentation supplémentaire et des mécanismes permettant aux utilisateurs et aux tiers de détecter ses marques.