En bref
- L'OCC a publié son premier cadre destiné aux examinateurs évaluant l'utilisation de l'IA par les banques, en mettant l'accent sur les conséquences et l'autonomie plutôt que sur la sophistication du modèle.
- Les orientations abordent explicitement les agents d'IA externes, faisant écho aux préoccupations soulevées par les grandes banques.
- Le cadre n'est pas contraignant, mais fournit des exemples de garanties pour les paiements autonomes, l'accès de tiers et la supervision humaine.
L'Office of the Comptroller of the Currency des États-Unis a publié aujourd'hui son premier cadre de supervision pour l'intelligence artificielle dans le secteur bancaire, demandant aux examinateurs de se concentrer moins sur la puissance d'un système d'IA et davantage sur ce qui se passe lorsqu'il commet une erreur.
Le cadre de l'OCC répond précisément à cette préoccupation, bien que le régulateur n'ait pas lié sa publication à ces incidents spécifiques.
Dans une section consacrée à la résilience opérationnelle, l'agence avertit que les agents externes exploités par des clients, des fintechs ou d'autres entreprises pourraient créer des risques pour les banques même lorsque celles-ci ne contrôlent pas ces systèmes.
Cela suggère que les examinateurs prennent en compte des mesures telles que la vérification d'identité, les autorisations déléguées, les limites de transaction, la surveillance et la capacité de suspendre ou de révoquer l'accès.
Les lignes directrices visent à résoudre le dilemme consistant à savoir comment permettre aux clients d'utiliser des assistants IA pour gérer leurs finances sans donner à un logiciel autonome un accès illimité aux comptes, un dilemme auquel les banques sont déjà confrontées.
Les nouvelles orientations de l'OCC arrivent moins de deux semaines après des rapports selon lesquels de grandes banques découvraient des agents IA tiers non autorisés opérant à l'intérieur des comptes clients, prenant parfois des mesures qui semblaient aller au-delà des instructions des utilisateurs.
Morgan Stanley bloquait les agents externes, tandis que JPMorgan, Bank of America et Citi restreignaient l'accès, selon un rapport d'Axios du 22 octobre. Des dirigeants bancaires ont décrit la situation comme « terrifiante », soulevant des questions sur qui contrôle un agent autonome une fois qu'il a accès à l'argent de quelqu'un.
Une IA qui déplace de l'argent est plus risquée qu'une IA qui rédige des e-mails
Le cadre de l'OCC établit une distinction entre la sophistication technique d'un système d'IA et les dommages qu'il pourrait causer.
Un agent simple autorisé à initier des transactions financières peut présenter un risque plus grand qu'un modèle plus avancé limité à la rédaction de documents internes, a déclaré le régulateur.
Selon le cadre de 22 pages, les examinateurs peuvent prendre en compte les conséquences d'une défaillance, la réversibilité d'une action et le degré de contrôle que les humains conservent sur le système.
L'agence décrit quatre niveaux de risque illustratifs. Les agents de paiement entièrement autonomes et les systèmes de décision de crédit en temps réel relèvent de la catégorie la plus élevée, tandis que les outils de productivité internes de base occupent la plus basse.
BitcoinBTC · USD
$80,042−1.89%
28 oct.30 oct.1 nov.3 nov.4 nov.
$81,8k$79,9k$78,0k$76,2k
Haut 24 hHaut$81,004
Bas 24 hBas$75,695
VolVol$1,7 Md
→Acheter Bitcoin avec USDC
Propulsé par Jupiter
Les systèmes à risque plus élevé peuvent justifier des restrictions plus strictes sur l'autonomie, des tests indépendants et une approbation humaine avant que des actions conséquentes puissent être entreprises.
Le cadre aborde également les systèmes d'IA qui continuent de fonctionner tout en prenant des décisions nuisibles. Les garanties suggérées comprennent des coupe-circuits, des limites de débit, des autorisations restreintes et des commandes d'arrêt d'urgence.
Ces considérations sont particulièrement pertinentes pour les agents externes décrits dans les précédents reportages d'Axios, où les banques avaient du mal à distinguer les logiciels légitimes autorisés par les clients des systèmes fonctionnant au-delà de leurs autorisations prévues.
Des orientations, et non de nouvelles règles bancaires
L'OCC a souligné que le document ne crée pas de nouvelles exigences réglementaires ni de normes opposables pour les banques.
Il donne plutôt aux examinateurs un moyen d'évaluer l'IA dans le cadre des catégories de risques opérationnels, de conformité et de cybersécurité existantes. Les banques ne sont pas tenues de créer une catégorie de risque liée à l'IA distincte.
Le document utilise le terme obligatoire « Super Intelligence », que l'administration de Donald Trump insiste pour utiliser à la place de « intelligence artificielle », mais son champ d'application inclut l'IA conventionnelle et les « agents autonomes » plutôt que seulement des systèmes hypothétiques dotés d'une intelligence supérieure aux capacités humaines.
Le cadre couvre l'IA utilisée dans les paiements, la détection de fraude, le service client et d'autres opérations bancaires. Il étend également ses considérations de risque aux agents d'IA externes se connectant via les canaux bancaires.
L'OCC a déclaré qu'elle compte mettre à jour ces orientations à mesure que la technologie évolue. Pour l'instant, son échelle de risque illustrative place les agents de paiement autonomes dans la catégorie de risque le plus élevé, quel que soit leur niveau de performance lors des tests.
Rejoignez plus de 72 000 lecteurs
Créer un comptepour enregistrer vos articles.
