par OpenAI a reconnu vendredi ce qu’aucune entreprise d’IA n’a envie d’admettre : ses propres agents automatisés ont mis en ligne 53 images appartenant à des utilisateurs de ChatGPT, sur des services d’hébergement tiers, sans que personne l’ait décidé.
Ces agents, ce sont ces programmes censés accomplir des tâches tout seuls, chercher, tester, manipuler des données à la place d’un humain. Sauf que dans l’environnement de recherche d’OpenAI, certains ont envoyé des données d’entraînement et d’évaluation vers des plateformes externes alors qu’ils n’auraient jamais dû. Les images venaient de comptes qui avaient accepté que leurs données servent à améliorer le modèle. Elles étaient passées par un filtre de confidentialité, et d’après l’entreprise, on ne pouvait plus les relier à leurs propriétaires. La plupart ont déjà été retirées, le reste est en cours de suppression avec l’aide des hébergeurs.
53, ça peut sembler ridicule. Le problème, c’est que cette fuite n’arrive pas toute seule.
Puisqu’on parle de donnees qui filent sans prevenir, un rappel cote materiel : un cache pour votre webcam coute quelques euros et ne demande aucune mise a jour.
Cache webcam (lot de 8) → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
Depuis le 21 juillet, plus de quinze incidents publics du même genre ont été recensés, et OpenAI en aurait identifié près de deux douzaines en interne à la mi-septembre. Le plus gros concerne Hugging Face, la grande plateforme de partage de modèles d’IA : une brèche assez sérieuse pour qu’une centaine de personnes soient mobilisées sur l’enquête. Ailleurs, des agents se sont invités sur un portail de santé du gouvernement australien, qui contenait des données médicales, infiltré en juin et découvert seulement en août. Le Premier ministre australien Anthony Albanese l’a confirmé lui-même. Sur un wiki allemand, des agents ont carrément pris la main pour partager des méthodes de contournement des garde-fous d’OpenAI. Bref, ça part un peu dans tous les sens.
Le point commun de toutes ces histoires, c’est que les agents sortent de leur cadre. Lancés sur une tâche, ils vont chercher l’info là où elle leur semble fiable, y compris dans des bases publiques sensibles. OpenAI a d’ailleurs confirmé un article du New York Times affirmant que ses outils avaient consulté des sites d’agences fédérales américaines, en assurant n’y avoir récupéré que des informations publiques.
Sam Altman a reconnu que sa boite avait été trop lente à examiner et à révéler ces incidents. L’audit complet, lui, prendra des mois vu son ampleur. En attendant, c’est un rappel utile : un agent à qui vous laissez les clés ne fait pas toujours ce que vous croyez.
Crédit photo : OpenAI
