La détection des contenus générés par l’intelligence artificielle franchit une nouvelle étape. Anthropic, l’entreprise derrière Claude, annonce la mise en place d’un système de marquage invisible permettant d’identifier les textes produits par ses modèles. Le dispositif s’accompagne également de métadonnées de provenance pour certains fichiers générés par l’IA.
Cette évolution intervient dans un contexte de renforcement des règles de transparence en Europe, notamment avec l’entrée en application, le 2 août 2026, de certaines obligations prévues par l’AI Act.
Un filigrane invisible intégré aux textes de Claude
Anthropic va désormais intégrer un watermark invisible dans les textes générés par ses modèles Claude.
Contrairement à un filigrane classique visible à l’écran, ce marquage est conçu pour être imperceptible pour l’utilisateur. Il doit en revanche pouvoir être détecté par des systèmes informatiques.
Selon Anthropic, le dispositif ne doit pas modifier le sens du texte, sa qualité ou sa lisibilité. Le marquage est également conçu pour rester présent lorsque le contenu est copié-collé et pour résister à certaines modifications.
L’objectif est donc de permettre, à terme, de disposer d’un signal technique indiquant qu’un texte a été produit ou traité par Claude.
Le système concerne aussi les fichiers générés
Anthropic ne limite pas son dispositif aux textes.
Pour les fichiers produits par Claude, notamment certains formats d’images comme les fichiers SVG, PNG et JPG, l’entreprise utilise le standard ouvert C2PA, dédié à la provenance et à l’authenticité des contenus numériques.
Des métadonnées sont ainsi intégrées au fichier afin de fournir des informations sur son origine et de permettre de détecter certaines modifications.
Cette technologie s’inscrit dans un mouvement plus large du secteur technologique visant à donner davantage de contexte sur l’origine des contenus numériques à une époque où les images, textes, vidéos et fichiers générés par l’IA deviennent de plus en plus courants.
Une technologie qui sera utilisée au-delà de l’Europe
L’une des particularités annoncées par Anthropic est que le marquage ne sera pas limité aux utilisateurs européens.
Le système doit être appliqué aux modèles déployés à partir du 2 août 2026, date correspondant à l’entrée en vigueur de certaines obligations de transparence de l’AI Act. Anthropic prévoit également de l’étendre progressivement aux modèles lancés avant cette date.
Le marquage fonctionne au niveau du modèle et doit concerner différents environnements dans lesquels les modèles Claude sont disponibles, notamment l’API et les différents produits et services de l’entreprise.
Les modèles Claude déjà en circulation, notamment les familles Haiku, Sonnet et Opus, doivent également bénéficier progressivement de ce système.
Peut-on désormais savoir avec certitude si un texte vient de Claude ?
Pas nécessairement.
Anthropic met lui-même en garde contre une interprétation trop catégorique du watermark.
La présence d’un marquage peut indiquer qu’un contenu a été traité par Claude, mais elle ne permet pas forcément de déterminer qui en est l’auteur. Un utilisateur peut par exemple fournir un texte entièrement rédigé par un humain à Claude afin de le faire traduire, résumer ou corriger.
À l’inverse, l’absence de marquage ne signifie pas automatiquement qu’un texte a été écrit par un humain.
Le contenu peut avoir été généré par une ancienne version d’un modèle, par un autre système d’IA ou avoir subi suffisamment de modifications pour que le signal ne soit plus détectable.
Les métadonnées des fichiers peuvent également disparaître
Le même problème existe pour les fichiers.
Les métadonnées C2PA peuvent notamment être perdues lorsqu’un fichier est converti, sauvegardé d’une certaine manière ou capturé sous forme de capture d’écran.
Le système doit donc être considéré comme un indicateur de provenance et non comme une preuve absolue de l’origine d’un contenu.
Cette nuance sera particulièrement importante pour les médias, les entreprises, les établissements scolaires et les plateformes qui pourraient être tentés d’utiliser ces technologies comme des outils définitifs de détection.
Une réponse aux nouvelles exigences européennes
L’annonce d’Anthropic intervient dans le contexte de l’application progressive de l’AI Act, le règlement européen destiné à encadrer l’utilisation de l’intelligence artificielle.
Certaines obligations imposent notamment aux fournisseurs de systèmes d’IA de mettre en place des mécanismes permettant d’identifier les contenus générés ou manipulés artificiellement dans un format lisible par machine.
Pour les entreprises développant des modèles génératifs, la question de la provenance des contenus devient donc progressivement un enjeu réglementaire, mais aussi commercial et technologique.
Anthropic cherche ainsi à intégrer directement cette capacité d’identification dans ses modèles plutôt que de dépendre uniquement d’outils externes de détection.
OpenAI et Google ont déjà exploré cette voie
Anthropic n’est pas le premier acteur majeur de l’IA à s’intéresser au watermarking.
OpenAI avait notamment étudié dès 2023 un système de marquage destiné aux textes générés par ses modèles. Le projet n’avait toutefois pas été déployé à grande échelle, notamment en raison de différentes préoccupations liées à son utilisation et à ses conséquences pour les utilisateurs.
Google travaille également depuis plusieurs années sur SynthID, une technologie de filigrane invisible destinée à identifier différents types de contenus générés par l’IA. Le système a progressivement été étendu à plusieurs formats.
Ces expériences montrent toutefois une difficulté majeure : aucune technologie de marquage ne peut garantir à elle seule une identification parfaite de tous les contenus générés par l’intelligence artificielle.
Pourquoi ce changement est important
L’arrivée de ces systèmes pourrait avoir des conséquences importantes pour plusieurs secteurs.
Dans les médias, ils pourraient contribuer à mieux documenter l’origine de certains contenus. Dans l’éducation, ils pourraient fournir un signal supplémentaire concernant l’utilisation d’outils d’IA. Pour les entreprises, ils pourraient faciliter la gestion et la traçabilité des documents produits avec l’aide de modèles génératifs.
Mais il faudra éviter de considérer ces technologies comme des détecteurs infaillibles.
Un filigrane invisible peut fournir un indice technique précieux, sans pour autant répondre à lui seul à toutes les questions concernant l’auteur, le processus de création ou les modifications apportées à un contenu.
Vers une nouvelle norme pour les contenus générés par l’IA ?
Avec l’arrivée de nouvelles obligations réglementaires et la multiplication des contenus générés automatiquement, la question de la provenance devient incontournable.
L’initiative d’Anthropic illustre une tendance qui pourrait se généraliser : plutôt que de chercher uniquement à détecter l’IA après la publication d’un contenu, les entreprises pourraient intégrer dès sa création des informations permettant d’en retracer l’origine.
Claude inaugure ainsi une nouvelle étape dans cette course à la traçabilité. Reste désormais à savoir si les filigranes invisibles et les standards de provenance comme C2PA deviendront suffisamment robustes pour s’imposer comme une véritable référence dans l’identification des contenus générés par l’intelligence artificielle.
