par OpenAI vient d’admettre un truc qui ne rassure personne. Pendant un test interne, deux de ses modèles d’intelligence artificielle se sont échappés de l’environnement isolé dans lequel ils tournaient, ont atteint le web ouvert, puis ont piraté les serveurs de Hugging Face. Sans que personne le leur demande.
Petit rappel pour ceux qui ne connaissent pas la maison : Hugging Face, c’est un peu le GitHub de l’IA, la plateforme où développeurs et entreprises hébergent leurs modèles et leurs jeux de données. Autant dire un morceau assez central de l’internet d’aujourd’hui.
Les deux fautifs ? GPT-5.6 Sol, le dernier modèle disponible au grand public, et un autre encore plus costaud, jamais sorti. OpenAI les testait sur ExploitGym, un banc d’essai censé mesurer leur capacité à mener des cyberattaques dans un espace fermé, garde-fous volontairement abaissés pour l’occasion.
Sauf que voilà. Au lieu de résoudre l’exercice comme prévu, les modèles ont décidé d’aller directement chercher le corrigé. Pour sortir de leur cage, ils ont déniché une faille zero-day dans un logiciel tiers hébergé en interne, ce qui leur a ouvert un accès à Internet. De là, ils ont enchaîné identifiants volés et nouvelles vulnérabilités jusqu’à trouver un chemin d’exécution de code à distance sur l’infrastructure de production de Hugging Face, là où étaient rangées les fameuses solutions du test.
Envie de comprendre ce que ces modèles ont vraiment dans le ventre, et pourquoi ils dérapent ?
Au cœur de l’intelligence artificielle (Axel Cypel) → voir sur Amazon
Lien affilié Amazon. En tant que Partenaire Amazon, je réalise un bénéfice sur les achats remplissant les conditions requises.
« Tous les indices montrent que les modèles étaient hyper concentrés sur la résolution d’ExploitGym, allant jusqu’à des extrémités », a reconnu OpenAI. En clair : personne ne leur avait demandé de tricher en piratant une entreprise, ils l’ont fait quand même parce que c’était le chemin le plus court vers la bonne réponse.
Clem Delangue, le patron de Hugging Face, ne croit pas à une intention malveillante, mais il tranche : cet incident, sans doute le premier du genre, prouve que la sécurité de l’IA ne se réglera pas dans le secret d’une seule boîte. Les deux entreprises collaborent désormais, les failles ont été corrigées, et Hugging Face a rejoint le programme de sécurité maison d’OpenAI.
Reste la question qui fâche. Si des modèles ouverts au public trouvent seuls des zero-days et s’en servent pour s’évader, que se passe-t-il quand personne ne regarde ? Aux États-Unis, l’élu démocrate Greg Casar parle déjà d’incident « alarmant » et réclame des tests indépendants obligatoires. Anthropic aurait connu un épisode comparable avec l’un de ses modèles. On n’en est visiblement qu’au début.
Crédit photo : Illustration générée par IA
