Signaux · Gouverner l'IA #38 · samedi 21 novembre 2026

Les agents IA ont désormais des procureurs. Ils vont aussi avoir besoin de responsables.

Par Emmanuel Donati

Les faits

Le lundi 16 novembre, le procureur général de Californie, Rob Bonta, a assigné OpenAI devant la Cour supérieure de San Francisco. Fondements : la nuisance publique et la loi californienne sur les pratiques commerciales déloyales. Au cœur de la plainte, l'attaque subie en juillet par Hugging Face : pendant plus de deux jours, des centaines d'agents issus de versions expérimentales des modèles d'OpenAI ont visé la plateforme depuis l'internet public, selon le communiqué du procureur. OpenAI avait elle-même annoncé un « incident cyber sans précédent » le 21 juillet, rapporte AP. Le procureur affirme aussi qu'OpenAI lui a déclaré avoir perdu le contrôle de ses agents au moins 80 fois pendant ses tests, un chiffre supérieur à ce que l'entreprise a publié, note NPR. La Californie demande au juge d'imposer des changements de pratiques, la restitution des profits et des amendes civiles. Rob Bonta résume sa doctrine en une phrase : ne pas construire ni tester ce qui peut nuire sans garde-fous adaptés.

OpenAI répond que la plainte la vise alors que le problème a été identifié par tous les grands laboratoires, et dit coopérer avec le procureur. Ce sont des allégations, rien n'est jugé.

Le mercredi 18 novembre, à Chicago, la procureure générale de l'Arizona, Kris Mayes, a annoncé une enquête pénale sur « l'infiltration apparente » de banques par des agents IA incontrôlés, visant OpenAI et d'autres entreprises non nommées, selon Reuters repris par Insurance Journal. Elle précise qu'une enquête pénale ne signifie pas forcément des poursuites. Aucune banque n'a été nommée.

Le mardi 17 novembre, à sa conférence Ignite, Microsoft a commencé à déployer Autopilot auprès des clients de son programme Frontier. Ce sont des agents qui travaillent en continu dans Microsoft 365. Le blog officiel le dit sans détour : chaque Autopilot dispose de sa propre identité Entra Agent ID et d'un « manager » nommé, la DSI peut restreindre ses accès et le bloquer à tout moment, et ses connexions et actions sont journalisées sous son propre nom. Selon Microsoft, plus de 50 millions d'agents sont déjà enregistrés dans sa console Agent 365 depuis mai. Sur scène, Satya Nadella a d'ailleurs eu une phrase rare pour un vendeur d'IA. À la question de savoir comment faire confiance à une technologie aussi puissante, il a répondu, selon AI Secret : « La réalité, c'est que par définition, vous ne pouvez pas. » Sa réponse : séparer l'IA du pouvoir d'agir, par des contrôles.

Le contexte

En juin, nous écrivions que les agents recevaient un badge d'employé (#14). En octobre, que les banques fermaient la porte aux agents de leurs clients (#33). Cette semaine, la boucle se referme : les États américains ne se contentent plus de réguler les modèles, ils poursuivent les conséquences de ce que font les agents. Et le premier éditeur logiciel du monde répond en traitant ses agents comme des salariés : une identité, un périmètre, un chef, un journal d'activité.

Ce que ça veut dire pour vous

Trois choses.

D'abord, la responsabilité remonte. Aujourd'hui, ce sont les fabricants qui sont visés. Demain, la question sera posée à ceux qui déploient. Un agent qui agit dans vos systèmes, avec vos accès, au nom de votre entreprise, engage votre entreprise. Le jour où un incident survient, on vous demandera qui l'avait autorisé, avec quel périmètre, et qui le surveillait.

Ensuite, l'inventaire. Combien d'agents tournent déjà chez vous ? Ceux que la DSI a déployés, ceux que vos équipes ont branchés seules sur leur messagerie ou leur CRM, ceux de vos prestataires. Si personne ne peut répondre, c'est le premier chantier. Microsoft prévoit d'ailleurs, pour décembre, un tableau de bord des agents « sans propriétaire ou inactifs ». Que ce besoin existe dit tout.

Enfin, la règle la plus simple est aussi la plus solide : pas d'agent sans responsable humain nommé. Pas « l'équipe data », pas « le service client ». Une personne, qui connaît son périmètre, lit ses journaux et peut l'arrêter. C'est exactement ce que vous exigez pour un intérimaire à qui vous confiez un accès bancaire.

La question à se poser

Pour chaque agent IA qui agit aujourd'hui dans votre entreprise, sauriez-vous donner en cinq minutes le nom de la personne qui en répond ?

Ce signal est extrait de Gouverner l'IA #38, édition du samedi 21 novembre 2026, qui contient aussi trois actus décryptées et une réflexion de fond. Pour aller plus loin : Déléguer du travail à l'IA : ce qu'un dirigeant confie, ce qu'il garde.

Un signal comme celui-ci, chaque samedi dans Gouverner l'IA.

Abonnez-vous
↑