par Vous tombez sur une photo bluffante dans votre fil, et impossible de savoir si elle sort d’un appareil photo ou d’un générateur. Google propose maintenant un moyen de trancher, en tout cas pour une partie des contenus. Depuis le 7 octobre, son outil SynthID Detector est accessible au grand public, partout dans le monde. Jusqu’ici, il était réservé aux journalistes et aux professionnels des médias qui le testaient depuis l’an dernier.
Le principe est simple. Quand une image, une vidéo ou un fichier audio est produit par une IA de Google, un petit signal invisible est glissé dedans, une sorte de tatouage numérique baptisé SynthID. L’outil lit ce tatouage et vous dit, filigrane détecté ou non. Vous déposez votre fichier, et l’écran affiche en clair « ce média a été créé ou modifié avec l’IA de Google ». Pas besoin de logiciel particulier, un compte Google, Apple ou OpenAI suffit pour s’en servir.
Et c’est là que ça devient intéressant pour l’internaute lambda. Le détecteur ne se limite plus aux seuls outils maison de Google. Il reconnaît aussi les contenus marqués par plusieurs partenaires, dont OpenAI, NVIDIA et le coréen Kakao, et Apple devrait rejoindre la liste. Autrement dit, le filigrane commence à devenir une sorte de standard partagé entre plusieurs gros acteurs de l’IA, ce qui n’était pas gagné.
Pour creuser comment l’IA fabrique de faux contenus et pourquoi des outils comme SynthID deviennent utiles, le livre d’Olivier Lascar fait un bon tour de la question.
Deepfake : l’IA au service du faux (Olivier Lascar) → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Reste un vrai angle mort, et Google ne le cache pas. SynthID ne sait vérifier que les contenus qui portent déjà son filigrane. Si une image n’affiche aucun marquage, ça ne prouve pas qu’elle a été prise par un humain, juste qu’elle ne vient pas d’un modèle compatible. Une photo générée par un outil qui ignore SynthID passera donc entre les mailles. Ce n’est pas le détecteur universel dont tout le monde rêve, mais plutôt un premier filet, troué par endroits.
Les volumes donnent quand même le vertige. Depuis 2023, Google dit avoir tatoué plus de 180 milliards d’images et de vidéos, et l’équivalent de 240 000 années d’audio. De quoi couvrir une bonne partie de ce qui circule désormais en ligne.
Pour le public français, l’arrivée tombe à un moment où la question des deepfakes et des fausses images revient sans arrêt, des réseaux sociaux aux campagnes politiques. Avoir un bouton pour lever le doute, même partiellement, c’est déjà ça de pris.
Crédit photo : Google DeepMind
