par Depuis le 31 juillet, chaque voix générée par ChatGPT embarque un mouchard que vous n’entendrez jamais. OpenAI a annoncé que les audios produits par GPT-Live, sa nouvelle génération de modèles vocaux, portent maintenant un filigrane SynthID. Une marque invisible tatouée directement dans le son, impossible à percevoir à l’oreille mais lisible par une machine.
GPT-Live, c’est la brique qui rend les conversations avec l’IA beaucoup plus naturelles, presque humaines dans le rythme et l’intonation. Le souci, c’est justement que ça devient trop bon. Une voix clonée qui appelle vos parents pour leur soutirer de l’argent, un faux message audio d’un patron ou d’un politique, on y est déjà. D’où l’idée de tamponner chaque fichier dès sa création.
SynthID n’est pas une invention maison. La techno vient de Google DeepMind, et elle s’installe peu à peu comme un standard partagé, puisque OpenAI, ElevenLabs, Nvidia et le coréen Kakao l’utilisent tous. Le filigrane se loge dans le signal audio lui-même et vient compléter les métadonnées C2PA, ces étiquettes qui disent d’où vient un contenu mais qui sautent dès qu’on recompresse ou qu’on refilme l’écran.
Pour comprendre comment les voix et les videos truquees sont fabriquees, et pourquoi on cherche desormais a les tracer, le livre d’Olivier Lascar fait le tour de la question.
Deepfake : l’IA au service du faux → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Reste à pouvoir lire la marque. OpenAI a donc ouvert un outil de vérification public capable de dire si un audio porte sa signature, plus une version en API pour que d’autres l’intègrent. Une rédaction qui reçoit un enregistrement douteux, une plateforme sociale qui filtre ses uploads, un service conformité en entreprise: ils envoient le fichier, le système le compare, et renvoie un verdict d’origine. Pratique. Sauf que ça ne repère que les voix d’OpenAI, pas celles des dizaines d’autres générateurs qui circulent.
Le calendrier ne doit rien au hasard. Ce 2 août, l’article 50 du règlement européen sur l’IA entre en application. Il oblige les fabricants d’IA à rendre leurs contenus générés marqués et détectables par machine, et impose de signaler clairement quand un audio, une vidéo ou une image relève du deepfake. Les amendes peuvent grimper jusqu’à 3 pour cent du chiffre d’affaires mondial. Difficile de croire à un simple alignement des planètes quand la fonction débarque la veille.
Pour l’internaute, ça ne change rien tout de suite, aucun bouton, aucune manip. Mais c’est le début d’un monde où un son pourra porter son certificat d’origine. Reste à ce que tout le monde joue le jeu, et là on en est encore très loin.
Crédit photo : Wikimedia Commons
