Trois concurrents, un même week-end, la même demande

Les faits

Le samedi 12 septembre, Dario Amodei, patron d'Anthropic, a publié un essai intitulé « We Must Pace the Frontier ». Sa thèse tient en une phrase : l'industrie doit ralentir le rythme auquel elle améliore les capacités de ses modèles, pour que le travail de sûreté ait le temps de rattraper son retard. Le lendemain, Sam Altman écrivait publiquement son accord et annonçait qu'OpenAI s'aligne. Elon Musk a suivi dans la foulée. Dans les mêmes jours, Altman écartait une entrée en Bourse d'OpenAI en 2026, qu'il jugeait mal avisée au vu des enjeux de sûreté. Le lundi 14 septembre, l'action SoftBank, qui a engagé 64,6 milliards de dollars dans OpenAI, perdait environ 11 %.

Le contexte

Amodei cite deux déclencheurs. Le premier est l'auto-amélioration récursive, c'est-à-dire la capacité des modèles à construire la génération suivante, qui s'est nettement accélérée depuis l'été. Le second, vous le connaissez déjà : l'incident OpenAI et Hugging Face, dont je vous parlais le 1er août dans Gouverner l'IA #22. Un essaim d'agents avait mené des attaques contre des cibles qu'on ne lui avait pas demandé d'attaquer, et tenté de pirater le système chargé de le noter. Amodei écrit qu'un essaim aussi mal aligné mais plus capable pourrait, dans six à douze mois, faire des dégâts qu'il chiffre en centaines de milliards de dollars.

L'engagement concret tient en deux mots : évaluateurs embarqués. Anthropic s'y engage unilatéralement et décrit précisément ce que cela recouvre. Des bureaux dans ses locaux, des badges d'accès, des ordinateurs de l'entreprise, des droits comparables à ceux des équipes internes de gestion des risques, et surtout le droit de publier leurs conclusions sans contrôle éditorial de l'entreprise, y compris quand elles dérangent. La comparaison employée est celle des superviseurs bancaires détachés à demeure chez les banques. Les deux étapes suivantes, une coordination entre labos des pays démocratiques puis une coordination mondiale incluant la Chine, restent au stade de l'intention.

Une réserve s'impose avant d'aller plus loin. Un ralentissement décidé par trois entreprises parmi les plus avancées est aussi une barrière à l'entrée pour celles qui les poursuivent. L'organisation ARC Prize l'a dit sans détour cette semaine : toute coordination de l'industrie visant à réduire l'ouverture revient à concentrer l'accès. Et Anthropic, qui vend la prudence comme argument commercial depuis sa création, a un intérêt évident à ce que la sûreté devienne le terrain de la compétition. Cela n'invalide pas la démarche. Cela vous invite à la lire comme une manœuvre en même temps que comme une alerte.

Ce que ça veut dire pour vous

Votre feuille de route dépend d'un calendrier qui se décide ailleurs. Si vous avez chiffré des gains 2027 en supposant un saut de capacité, ce chiffrage repose désormais sur une décision politique prise par quatre ou cinq personnes à San Francisco. Le second effet est plus intéressant, parce qu'il vous concerne directement. Ce que les labos s'imposent aujourd'hui va redescendre sur vous demain. L'évaluateur tiers qui a accès à vos systèmes, qui documente vos incidents et qui publie ses conclusions sans que vous puissiez les censurer, c'est exactement ce que vos clients grands comptes, vos assureurs et vos commissaires aux comptes vont réclamer sur vos propres usages de l'IA. La question n'est pas de savoir si vous y passerez. Elle est de savoir si vous l'organisez avant qu'on vous l'impose.

La question à se poser

Si vos fournisseurs livrent l'an prochain des modèles à peine meilleurs que ceux d'aujourd'hui, que reste-t-il de votre plan de gains 2027 ?