par OpenAI l’a annoncé le 5 octobre : les textes produits par ChatGPT et par Codex, son outil de code, vont bientôt porter une marque invisible. Un filigrane, baptisé textGrain. Vous ne le verrez jamais à l’oeil nu. Un détecteur, lui, saura le repérer.
Le principe est plutôt bien pensé. Plutôt que d’ajouter un symbole ou une balise à la fin, le système oriente discrètement le choix des mots du modèle pendant qu’il écrit. Une clé secrète sert à trier les mots candidats pour chaque position, et le texte finit truffé de centaines de ces petits coups de pouce statistiques. Invisibles pour nous, lisibles pour la machine.
Pourquoi maintenant, et pourquoi seulement chez nous ? Parce que l’Europe a sorti son règlement sur l’IA, l’AI Act, dont le volet transparence s’applique depuis le 2 août. Il oblige les entreprises à marquer les contenus générés par une intelligence artificielle, de façon qu’un autre système puisse les reconnaître. OpenAI déploiera donc le filigrane sur plusieurs semaines, pour tous ses utilisateurs européens, quel que soit leur forfait. Ailleurs dans le monde, rien d’automatique : les développeurs qui passent par l’API peuvent l’activer depuis le 5 octobre, mais c’est désactivé par défaut.
Pour apprivoiser l’IA qui se fait désormais tatouer en douce, un guide pas à pas reste un bon point de départ.
ChatGPT pour les Nuls (2e édition) → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Sauf que voilà, le dispositif a déjà montré ses limites, et c’est OpenAI elle-même qui le dit. Dans ses propres tests, remplacer seulement un mot sur dix par un synonyme fait chuter la détection de 92 % à 66 %. Les textes courts, les réponses mathématiques et les passages traduits sont eux aussi difficiles à repérer. Un peu de réécriture suffit donc à brouiller la piste.
L’entreprise prévient aussi, et c’est important : l’absence de filigrane ne prouve rien. Ce n’est pas parce qu’un texte n’est pas marqué qu’un humain l’a écrit. Et pour éviter que n’importe qui ne s’improvise chasseur de prose artificielle, le détecteur reste réservé à des chercheurs et à des organismes triés sur le volet.
On devine déjà les usages, du prof qui veut pister un devoir bâclé au recruteur qui flaire la lettre de motivation générée. Mais la marque s’efface presque aussi vite qu’elle se pose. Pour le moment, c’est surtout un geste de conformité réglementaire, pas l’arme anti-triche que certains espéraient.
Crédit photo : OpenAI (Wikimedia Commons)
