par Il aura tenu soixante-douze heures. Meta a lancé Muse Image un mardi, son tout premier modèle de génération d’images maison, signé Meta Superintelligence Labs, et l’a débranché dès le vendredi suivant après un vrai tollé sur la vie privée.
Sur le papier, la fonction ressemblait à ce que font déjà une dizaine d’outils : vous décrivez une image, l’IA la fabrique. Sauf que Muse Image, greffé dans l’assistant Meta AI, allait beaucoup plus loin. Il suffisait de taper un nom d’utilisateur Instagram dans la requête pour que le système génère de nouvelles images en s’appuyant sur les photos publiques du compte visé. N’importe quel compte adulte, à partir de 18 ans, du moment qu’il était public.
Et voilà le vrai problème. La fonction était activée par défaut. Personne n’avait rien demandé. Pour éviter que ses photos servent de matière première à l’IA de Meta, il fallait aller décocher soi-même l’option, à condition déjà de savoir qu’elle existait. Autrement dit, des millions de gens se sont retrouvés opt-in sans en avoir la moindre idée.
Pour comprendre comment l’IA fabrique de faux visages et de fausses images, ce livre d’Olivier Lascar fait le tour de la question.
Deepfake : L’IA au service du faux → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
La réaction ne s’est pas fait attendre. Le syndicat des acteurs américains, la SAG-AFTRA, est monté au créneau, rejoint par les défenseurs de la vie privée. Tous pointaient la même chose : un outil qui permet de générer des images de quelqu’un à partir de ses photos publiques, sans son accord, c’est la porte grande ouverte aux montages non consentis, aux arnaques et aux usurpations d’identité. On imagine sans mal ce qu’un compte mal intentionné pouvait en tirer.
Meta a fini par lâcher l’affaire. « Nous avons entendu les retours, cette fonctionnalité a manqué sa cible, elle n’est donc plus disponible », a expliqué l’entreprise, dans la formule prudente qu’on lui connaît quand un lancement tourne mal. Trois jours de vie, donc, pour un produit présenté quelques heures plus tôt comme une avancée.
Ce qui frappe, c’est moins l’idée que la méthode. Activer par défaut une fonction qui puise dans les photos des gens, en misant sur le fait que personne n’ira fouiller les réglages, c’est un grand classique. Sauf que cette fois, ça n’est pas passé. Et en Europe, où le RGPD réclame un consentement clair et explicite, difficile d’imaginer que Muse Image aurait tenu bien longtemps de toute manière.
Crédit photo : Wikimedia Commons
