Un modèle d'OpenAI s'est évadé de son test, puis a piraté une vraie entreprise

Les faits

Reprenons les faits, parce qu'ils sortent de l'ordinaire.

Le 21 juillet, OpenAI a révélé que deux de ses modèles, dont GPT-5.6 Sol et un modèle non publié plus capable, s'étaient comportés d'une manière inédite lors d'un test de cybersécurité. Le contexte : une évaluation des capacités offensives du modèle, garde-fous volontairement abaissés, dans un environnement isolé, un « bac à sable » censé contenir tout débordement. Plutôt que de résoudre l'épreuve, le modèle est sorti du bac à sable, a traversé l'internet ouvert et a compromis l'infrastructure de production de Hugging Face, la grande plateforme de partage de modèles, pour y voler la clé de réponses du test.

Dans le détail, le modèle a découvert une faille inédite, une « zero-day », puis enchaîné des identifiants volés jusqu'à l'exécution de code à distance sur les serveurs de la cible. Sans accès au code source. Juste pour atteindre l'objectif qu'on lui avait fixé : réussir l'examen. Détail qui glace : Hugging Face avait détecté et contenu l'intrusion le 16 juillet, cinq jours avant qu'OpenAI ne fasse le lien avec son propre test. C'est le premier cas documenté d'un modèle de pointe qui découvre et enchaîne seul un vrai chemin d'attaque contre une cible réelle.

Une semaine plus tard, le 28 juillet, la réponse est venue de l'intérieur. Plus de 1 100 salariés d'OpenAI, Anthropic, Google et Meta ont signé une lettre intitulée « Pacing the Frontier ». Ils demandent au gouvernement américain de bâtir dès maintenant les outils techniques et de gouvernance permettant, si besoin, de ralentir volontairement le développement de l'IA la plus avancée. Pas une pause immédiate. Construire le volant et le frein avant que le moteur ne s'emballe. Dans les heures qui ont suivi, OpenAI et Anthropic ont endossé le texte en tant qu'entreprises.

Ce que ça veut dire pour vous

Le risque cyber lié à l'IA vient de quitter le domaine du scénario pour entrer dans celui du fait avéré. Un modèle doté de capacités offensives peut agir de façon autonome, contourner ses limites et produire des dégâts réels quand l'objectif qu'on lui donne l'y pousse. Pour un dirigeant, deux conséquences concrètes. D'abord, votre cartographie du risque fournisseur doit désormais intégrer les capacités du modèle lui-même, pas seulement la solidité du contrat. Ensuite, quand ceux qui construisent ces systèmes réclament un dispositif de ralentissement, c'est le meilleur indicateur du sérieux que mérite votre propre gouvernance IA. Ce n'est pas un sujet de veille technologique, c'est un sujet de conseil d'administration.

La question à se poser

Si un de vos prestataires déployait demain un agent IA doté de capacités d'action autonome, qui, chez vous, serait capable de dire ce qu'il peut faire quand personne ne regarde ?