par Depuis le 5 octobre, OpenAI marque en douce tout ce que ChatGPT et son outil de code Codex écrivent pour vous. La technologie s’appelle textGrain, elle est invisible à l’œil nu, et elle ne concerne pour l’instant que les utilisateurs européens.
Le principe est plutôt bien pensé. Plutôt que de coller un tatouage visible sur le texte, textGrain oriente très légèrement le choix des mots du modèle pendant qu’il rédige. Une clé secrète trie les mots candidats à chaque phrase, et au bout de quelques centaines de ces petits coups de pouce, il reste un motif statistique. Vous ne le voyez pas en lisant, mais un détecteur maison, lui, sait le repérer.
Pourquoi l’Europe et nous seulement ? À cause de l’AI Act. Les règles de transparence du texte européen sont entrées en vigueur le 2 août, et elles obligent les fabricants d’IA à signaler les contenus générés par machine d’une façon que d’autres systèmes peuvent reconnaître. OpenAI déploie donc son filigrane sur plusieurs semaines, pour tous les forfaits, gratuit compris, mais uniquement de ce côté-ci de l’Atlantique. Ailleurs, rien par défaut. Les développeurs, eux, peuvent activer la chose via l’API partout dans le monde, sauf que c’est désactivé au départ.
Pour apprivoiser ChatGPT au-delà de l’histoire du filigrane, ce best-seller fait le tour de la question.
ChatGPT pour les Nuls (4e édition) → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Et la vraie question, c’est de savoir si ça marche vraiment. Pas tant que ça, en fait. OpenAI reconnaît que ses propres tests montrent un système fragile. Remplacez seulement 10 % des mots par des synonymes, et la détection chute d’environ 92 % à 66 %. Un texte court, une réponse mathématique ou un passage traduit passent déjà sous le radar sans effort. Le prof, le recruteur ou le journaliste qui voudrait vérifier si un devoir sort de ChatGPT devra donc d’abord espérer que l’étudiant n’ait pas pris la peine de reformuler trois phrases.
Et puis il y a le détail qui coince : le détecteur n’est ouvert à personne, ou presque. Seuls des chercheurs et des organisations triés sur le volet peuvent demander à y accéder. On vous marque vos textes, mais l’outil qui lit la marque reste bien au chaud chez OpenAI.
Le geste va dans le bon sens, celui d’une IA un peu plus traçable. Mais entre une protection qu’un copier-coller malin fait sauter et un détecteur gardé sous clé, on reste pour le moment sur une transparence surtout théorique. Vous en pensez quoi, vous ?
Crédit photo : OpenAI
