Vos textes ChatGPT porteront une marque invisible en Europe

Aucun caractère caché, aucune espace invisible, aucune ponctuation étrange. Le filigrane que ChatGPT va poser sur ses textes en Europe ne se voit pas, ne s’enlève pas d’un copier-coller, et ne se lit qu’avec une clé qu’OpenAI garde pour elle. L’éditeur l’a annoncé le 5 octobre : dans les prochaines semaines, les réponses de ChatGPT et de Codex, son agent de programmation, porteront une marque invisible pour tous les utilisateurs situés dans l’Union européenne, quel que soit leur forfait ChatGPT. Ni les États-Unis ni le Royaume-Uni ne sont concernés.

La raison tient en un article de loi. L’article 50 de l’AI Act, en application depuis le 2 août, oblige les fournisseurs d’IA générative à rendre leurs contenus « détectables » par une machine. Le filigrane ChatGPT, baptisé textGrain, est la réponse d’OpenAI. Il ne change rien à ce que vous voyez à l’écran. Il change en revanche ce qu’un texte transporte avec lui, et c’est là que les malentendus commencent.

Une signature glissée dans le choix des mots

À chaque mot qu’il écrit, un modèle de langage hésite entre plusieurs candidats, chacun avec sa probabilité. textGrain intervient à cet endroit précis : une clé secrète oriente légèrement le tirage, sans changer la moyenne des choix. Sur un paragraphe, ces petites préférences dessinent un motif statistique qu’un détecteur muni de la même clé sait reconnaître. Rien n’est ajouté au texte. C’est la formulation elle-même qui porte la trace.

OpenAI affirme que la qualité n’en souffre pas, chiffres à l’appui : sur les bancs d’essai de son modèle phare Astra, les écarts entre texte marqué et non marqué restent dans le bruit des mesures, parfois à l’avantage du texte marqué. La vitesse non plus ne bouge pas.

Le filigrane ne contient pas davantage d’information sur vous. Ni nom, ni compte, ni entreprise, ni trace de la conversation : il dit seulement qu’un système OpenAI a probablement produit ou retravaillé le passage. Un commercial qui fait reformuler un mail par ChatGPT n’envoie donc pas sa carte d’identité avec.

Le détecteur existe, mais il n’est pas pour vous

Voilà le point que l’annonce laisse dans l’ombre. Le détecteur n’est pas public. OpenAI ouvre des candidatures, examinées au cas par cas, et son centre d’aide précise qui peut prétendre à un accès : des laboratoires et organismes qui étudient la fiabilité de la détection. Il exclut nommément les usages commerciaux, de la lutte contre la fraude à l’authentification de documents. Il exclut aussi la vérification des copies d’étudiants. L’enseignant qui soupçonne un mémoire rédigé par ChatGPT n’aura pas l’outil.

La prudence d’OpenAI a une raison chiffrée. Le détecteur est réglé pour signaler à tort 1 % des textes, soit un texte humain sur cent accusé d’être sorti d’une machine. À l’échelle d’une promotion ou d’un service de recrutement, ce sont des innocents. L’éditeur préfère que les chercheurs éprouvent l’outil avant de le confier à n’importe qui.

Anthropic, de son côté, est allé plus loin et plus tôt. Depuis août, Claude marque ses textes partout dans le monde et dans tous ses produits, API comprise, et son détecteur, lui aussi en accès restreint, s’ouvre à une liste plus large : régulateurs, médias, vérificateurs de faits, chercheurs, établissements d’enseignement, ainsi que les entreprises qui doivent elles-mêmes prouver leur conformité.

Ces filigranes n’ont rien à voir avec les détecteurs d’IA qui circulent déjà. Un outil comme Pangram, au cœur de l’affaire du roman soupçonné d’avoir été écrit par une IA, devine à partir du style. Le filigrane, lui, vérifie la présence d’une marque déposée à la source. C’est plus solide sur le principe, mais réservé à ceux qui détiennent la clé.

Un mot sur quatre, et la trace s’efface

Même entre de bonnes mains, la marque reste fragile, et OpenAI publie ses propres limites. Sur un passage de 400 jetons, environ 300 mots en anglais, le détecteur retrouve le filigrane dans 92 % des cas. Remplacez un mot sur dix par un synonyme, il tombe à 66 %. Un mot sur quatre, à 17 %. Les textes courts résistent mal, eux aussi : le code de bonnes pratiques européen n’exige même pas de marquage sous 200 jetons, environ 150 mots en anglais, ni sur le code informatique. Une réponse très factuelle, un calcul ou une citation recopiée laissent trop peu de liberté dans le choix des mots pour que le motif apparaisse.

La langue compte aussi. Sur un test mené dans les 24 langues officielles de l’Union, la détection allait de 42 % en roumain à 69 % en espagnol, et OpenAI a dû renforcer le signal pour celles qui passaient sous 60 %. Une traduction, enfin, peut l’effacer complètement.

D’où la règle que les deux éditeurs martèlent : l’absence de filigrane ne prouve rien. Le texte a pu être retouché, traduit, raccourci, produit par un ancien modèle ou par un concurrent. À l’inverse, un filigrane détecté ne dit ni qui a eu l’idée, ni quelle part revient à l’humain, ni si le contenu est exact. Il atteste un passage par la machine, rien de plus.

L’obligation qui vous concerne n’est pas celle-là

Le marquage est l’affaire des fournisseurs. L’entreprise qui utilise ChatGPT relève d’un autre paragraphe du même article 50 de l’AI Act, plus étroit qu’on ne le croit. Il vise les textes publiés pour informer le public sur des questions d’intérêt général : ceux-là doivent mentionner qu’ils ont été générés par une IA. Sauf si un humain les a relus et qu’une personne, physique ou morale, en assume la responsabilité éditoriale.

En pratique, un article de blog ou un communiqué de presse rédigé avec ChatGPT, relu puis publié sous le nom de l’entreprise, n’a pas à porter d’étiquette. Le même texte poussé en ligne par un automate, sans personne pour le valider, devrait en porter une. Un mail client ou une proposition commerciale n’informent pas le public sur une question d’intérêt général : ils sortent a priori de ce champ.

Reste une asymétrie qui intéressera ceux qui ont branché l’IA dans leurs outils. Côté API, le filigrane d’OpenAI est désactivé par défaut, dans le monde entier. Un flux automatisé qui rédige des fiches produits ou des relances commerciales via GPT produit donc du texte non marqué, sauf à cocher l’option dans les réglages du compte. Le même flux branché sur Claude produit du texte marqué, sans rien demander. La présence d’une trace dépend du fournisseur choisi, pas de l’usage qu’on en fait, ce qui achève de la disqualifier comme preuve de quoi que ce soit.

Le filigrane ne dira jamais si un texte est exact, ni qui l’a pensé : OpenAI l’écrit noir sur blanc. Ce qui engage une entreprise, c’est le nom qu’elle met au bas de la page. Et celui-là ne se dissout pas dans un synonyme.