Marquer les textes générés par IA : pourquoi l’idée d’Anthropic est un parapluie troué

Après les louanges, les critiques. Le 11 août, Anthropic a annoncé que les textes produits par ses modèles Claude porteraient désormais une marque invisible. Les réactions ont été vives, entre accusations de mouchardage et crainte d’être signalé comme tricheur. L’objet technique est plus modeste que la controverse. Une IA produit son texte token par token, ces fragments de mots qui servent d’unité de calcul et de facturation. À chaque étape, plusieurs suites sont plausibles et elle en choisit une au hasard. Le filigrane consiste à truquer discrètement ce tirage au sort en favorisant une moitié du vocabulaire désignée par une clé secrète.

Sur une phrase, l’écart reste indétectable. Sur plusieurs centaines de mots, un test statistique permet de retrouver la trace de l’IA. Contrairement à ce qui a circulé, aucun caractère invisible n’est ajouté dans le texte et la réponse ne consomme pas davantage de tokens. Ce que le procédé dépense, c’est de l’entropie : la marge de choix du modèle.

Cette technique se heurte à plusieurs limites. Un texte court généré par IA n’affiche aucun signal fiable de sa provenance. L’article fondateur de John Kirchenbauer et de ses coauteurs de l’université du Maryland évoquait en 2023 un seuil autour de vingt-cinq tokens. Le code informatique lui, résiste, au marquage, puisqu’on ne peut pas y remplacer un mot par un synonyme sans casser le programme.

Rédigé par un humain, édité par Claude

Anthropic rappelle également dans sa documentation que le fait de détecter le marquage indique seulement que le contenu est passé par Claude, pas qu’il l’a écrit intégralement. Un texte rédigé par un humain puis soumis à une relecture, une traduction ou un résumé, sera tamponné. Mais l’inverse ne démontre rien : une réécriture humaine un peu poussée ou un passage par un autre modèle suffisent à effacer le signal. Alex Cui, directeur technique de GPTZero, qui vend des outils de détection, affirme ainsi avoir fait sauter le filigrane de Google avec des reformulateurs gratuits.

Google, justement, marque les textes de Gemini depuis 2024 avec SynthID-Text, une méthode publiée dans la revue Nature en octobre de la même année, sans que cette information ait déclenché la moindre polémique. Ses chercheurs affirment n’avoir mesuré aucune différence de satisfaction sur près de vingt millions d’échanges. Le laboratoire SRI de l’école polytechnique de Zurich n’a toutefois trouvé de trace fiable du filigrane que sur la version grand public de Gemini.

C’est ici que se démarque Anthropic. Le marquage est appliqué au niveau du modèle lui-même. Il est donc présent partout, de l’interface de programmation jusqu’à ses revendeurs Amazon, Google et Microsoft. OpenAI disposait de son côté d’un outil comparable dès 2023, selon des documents internes analysés par le Wall Street Journal. Il serait resté au placard suite à un sondage : près d’un utilisateur sur trois déclarait qu’il se détournerait de ChatGPT s’il trouvait un modèle concurrent sans marquage.

L’outil de vérifcation encore dans les limbes

Si Anthropic s’y résout aujourd’hui, c’est que l’article 50 du règlement européen sur l’intelligence artificielle est applicable depuis le 2 août. Il impose aux fournisseurs de rendre leurs productions détectables par une machine, sous peine d’amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial. Un code de bonnes pratiques publié le 10 juin offre aux signataires une présomption de conformité. Quelque 190 organisations l’avaient signé fin juillet selon la Commission européenne. Anthropic a étendu le marquage au monde entier, là où le texte ne l’y obligeait que dans l’UE.

Ce code reconnaît lui-même qu’aucune technique ne suffit à elle seule et impose, quand cela est possible, deux dispositifs : un filigrane et des métadonnées signées, une forme d’étiquette apposée sur le fichier. L’expérience des images explique cette prudence. Celles produites par Claude reçoivent une étiquette de provenance au standard C2PA, adopté par plus de six mille organisations, d’Adobe à la BBC. Mais cette étiquette est située dans l’enveloppe du fichier, pas dans l’image elle-même. Plusieurs outils permettent de s’en débarrasser. Le filigrane textuel souffre de la faiblesse inverse : il survit au copier-coller mais succombe à la réécriture. Anthropic promet de diffuser un outil de vérification, sans plus de précision. Le code européen laisse aux signataires jusqu’au 2 février 2027 pour rendre ces mécanismes interopérables, et ne pas avoir à passer par le détecteur de chaque fournisseur. Le chemin vers la transparence est encore long.