par OpenAI vient de publier son dernier rapport sur les opérations d’influence, et cette fois le constat pique. L’entreprise a coupé deux réseaux clandestins qui se servaient de ChatGPT pour manipuler l’opinion en ligne, l’un piloté depuis l’Iran, l’autre depuis la Russie. Les comptes ont été bannis le 8 octobre.
Le volet iranien, baptisé « Bogus Bylines », est le plus parlant pour quiconque lit la presse sur le web. Les opérateurs ont fabriqué sept faux journalistes, des personas complètes avec identité et petite biographie, puis ont démarché de vrais sites d’information pour leur vendre des articles de fond. Près de cent textes ont fini publiés dans au moins une vingtaine de médias, en persan comme en anglais. On trouve dans le lot des titres connus comme Daily Kos ou Middle East Monitor, mais aussi un minuscule hebdo de Floride qui n’a sans doute jamais vérifié à qui il ouvrait ses colonnes.
Le second réseau est encore plus costaud dans le genre. Surnommé « Dark Clark », il vise l’Amérique latine et cherche à grignoter le soutien à l’Ukraine. OpenAI le classe au niveau 5 de son échelle interne de gravité, qui en compte six, et c’est la première fois qu’elle atteint ce cran depuis qu’elle publie ces bilans. Les opérateurs utilisaient surtout ChatGPT pour pondre leurs comptes rendus internes à destination de leurs supérieurs, mais aussi pour monter un faux centre de réflexion en recrutant, sans qu’ils le sachent, de vrais chercheurs chargés d’interviewer des experts. Une de leurs campagnes a même réussi à faire réagir un eurodéputé polonais d’extrême droite.
Pour affûter votre flair face à ces articles trop bien ficelés, ce petit guide donne les bons réflexes.
Anti fake news – Démêler le vrai du faux → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Ce qui frappe, ce n’est pas tellement le volume de texte produit, c’est le vernis. L’outil ne leur a pas juste fait gagner du temps. Comme le résume le chercheur Darren Linvill, l’IA les a aidés à écrire une langue qui sonnait suffisamment authentique pour qu’une rédaction légitime accepte de la publier sans tiquer. Le problème n’est donc plus l’armée de robots qui spamment, mais le faux contributeur poli et bien renseigné qui franchit la porte d’entrée.
Pour l’internaute, c’est un peu contrariant à encaisser. On peut tomber sur une tribune parfaitement rédigée, signée d’un nom crédible, dans un média qu’on pensait sérieux, et lire en réalité la commande d’un État étranger. OpenAI promet de continuer à publier ces rapports. En attendant, douter d’une signature inconnue avant de partager, ça ne coûte rien.
Crédit photo : OpenAI
