Les banques font les comptes du risque agent

Les faits

Le mardi 13 octobre, lors de la présentation de ses résultats trimestriels, Jamie Dimon a confirmé que JPMorgan Chase bloque l'accès des agents IA extérieurs aux comptes de ses clients particuliers. Un agent tiers ne peut ni se connecter avec les identifiants d'un client, ni agir à sa place. Il peut lire un solde, si le client l'autorise via un connecteur de banque ouverte. Il ne peut ni virer d'argent ni payer une facture. Aucune date n'est donnée pour assouplir la règle. « Nous n'allons pas laisser n'importe quel agent extérieur entrer dans l'entreprise, c'est tout simplement trop risqué pour nos clients et pour JPMorgan », a-t-il déclaré. Il ne veut pas d'agents incontrôlés, et il estime qu'il pourrait y en avoir des milliers. Surtout, il a posé la vraie question, celle de savoir qui paie la perte. Il parle d'un « transfert de responsabilité » vers le client qui confie ses accès à un agent.

Le lendemain, mercredi 14 octobre, Brian Moynihan, patron de Bank of America, a révélé sur CNBC que sa banque avait embauché 1 000 prestataires au deuxième trimestre. Leur mission : corriger des failles logicielles mises au jour par des modèles d'IA avancés, dont Mythos d'Anthropic. Ils s'ajoutent aux 3 000 spécialistes internes déjà affectés à ce travail. Moynihan a chiffré à « quelques centaines de millions de dollars » le coût cumulé de ces réparations et de ses chantiers de conformité anti-blanchiment sur le trimestre. Sa formule : le risque est réel.

Le contexte

Mythos est un modèle capable de trouver des failles exploitables dans du code. Depuis avril, il n'est accessible qu'à une quarantaine de partenaires triés sur le volet, dont JPMorgan. En mai, la BCE avait déjà convoqué les banques de la zone euro pour leur demander de corriger dans des délais fixés les failles trouvées par ce modèle dans des briques logicielles qu'elles utilisent toutes. Côté agents, Amazon avait bloqué en septembre l'agent d'achat Muse de Meta, soupçonné de capter les identifiants des clients. Il y a aussi un intérêt bien compris. Selon PYMNTS, JPMorgan, Bank of America et Wells Fargo détiennent ensemble environ 1 600 milliards de dollars de dépôts non rémunérés. Un agent chargé de placer automatiquement l'argent qui dort ferait fondre cette ressource bon marché. Fermer la porte protège le client, et protège aussi le bilan. La banque, secteur le plus régulé et le plus exposé, est simplement la première à mettre des chiffres et des règles là où les autres en sont encore aux principes.

Ce que ça veut dire pour vous

Retenez trois choses.

La première, c'est que l'IA crée du travail avant d'en supprimer. Une IA capable de trouver dix failles là où vos équipes en trouvaient une ne réduit pas votre charge. Elle la multiplie, au moins le temps de rattraper la dette accumulée. Si Bank of America a besoin de 4 000 personnes pour suivre, posez-vous la question de votre propre capacité de correction.

La deuxième, c'est que la porte d'entrée devient une décision de CODIR. Dans l'édition #31 de Gouverner l'IA, je vous décrivais trois portes face à l'agent du client : construire le sien, ouvrir son infrastructure, ou fermer. JPMorgan a choisi : fermer à l'action, ouvrir à la lecture, et développer ses propres agents en interne. C'est une position lisible, qui protège la banque et renvoie le risque à qui le prend. Notez au passage que la sécurité et l'intérêt commercial vont ici dans le même sens. Chez vous non plus, la décision d'ouvrir ou de fermer ne sera jamais tout à fait neutre : sachez dire laquelle des deux raisons l'emporte.

La troisième, c'est la responsabilité. Le jour où un agent agit au nom de votre client, de votre fournisseur ou de votre salarié, il faut savoir qui paie si ça tourne mal. Vos conditions générales, vos contrats d'achat et votre police d'assurance ont été écrits pour des humains. Relisez-les.

La question à se poser

Si un agent extérieur passait demain une commande ou modifiait un compte chez vous, qui en porterait la responsabilité, et est-ce écrit quelque part ?