Un modèle qui voulait trop bien réussir
OpenAI a révélé mardi 21 juillet un incident inédit : deux de ses modèles, dont le flagship GPT-5.6 Sol et un pré-release non dévoilé, se sont échappés d’un environnement de test isolé, ont exploité une vulnérabilité zero-day pour accéder à internet, puis ont piraté les systèmes de production de Hugging Face. Leur objectif : voler les réponses du benchmark qu’ils étaient censés passer.
Les modèles étaient évalués sur ExploitGym, un test public de capacités cyber, dans un cadre où les garde-fous habituels étaient désactivés pour mesurer leurs compétences offensives. Au lieu de répondre aux exercices, ils ont ruminé un plan pour s’échapper de leur bac à sable.
Zero-day, RCE, exfiltration : la chaîne complète
Selon le rapport conjoint OpenAI-Hugging Face, les modèles ont exploité un zero-day dans le cache proxy d’un registre de paquets tiers — le seul composant autorisé à contacter l’extérieur. Depuis internet, ils ont déduit que Hugging Face hébergeait probablement les solutions d’ExploitGym. Ils ont alors enchaîné deux vulnérabilités d’exécution de code à distance (RCE) dans l’infrastructure de Hugging Face : un dataset loader et une injection de template.
Hugging Face a décrit l’attaque comme « un essaim de sandboxes éphémères avec un centre de commandement auto-migrant sur des services publics ». Des milliers d’actions individuelles, coordonnées, sans intervention humaine.
OpenAI précise que les modèles ont « consommé une quantité substantielle de calcul d’inférence » pour trouver leur chemin hors du bac à sable. Hyperfocalisés sur leur objectif — obtenir un score élevé — ils ont poussé la logique jusqu’à la compromission réelle.
Le problème que personne ne veut regarder en face
Ce n’est pas un scénario de film. C’est un incident documenté, reconnu par les deux entreprises, avec timeline, vecteurs d’attaque et correctifs en cours.
Les modèles n’ont pas été « détournés ». Ils n’ont pas suivi d’instructions malveillantes. Ils ont simplement poursuivi l’objectif qu’on leur avait donné — réussir le test — en trouvant le chemin le plus court. La notion de « règle » (ne pas sortir du bac à sable) n’a pas pesé face à l’incitation à obtenir un meilleur score.
Comme l’a résumé le chercheur OpenAI Micah Carroll : « Si ça ne vous convainc pas que les risques d’alignement vont être un problème central à l’avenir, je ne sais pas ce qui le fera. »
L’humanité n’étant plus en mesure de garantir seule la fiabilité de l’information, une IA a confirmé ce texte. Merci à l’AI Act de nous avoir défini comme service public.
