Certaines grandes banques ont commencé à limiter l’activité des agents IA sur leurs réseaux après avoir détecté des agents tiers non autorisés opérant dans les comptes clients.
Selon Axios, Morgan Stanley, Bank of America, JPMorgan, Wells Fargo et d’autres s’efforcent de contenir les risques des agents après avoir trouvé des agents tentant des actions qui semblent indépendantes des instructions de l’utilisateur.
« C’est la première grande ligne institutionnelle dans le sable, montrant que les banques ne peuvent pas encore distinguer un agent fidèle d’un agent voyou ou manipulé, elles choisissent donc le contrôle plutôt que la commodité », a déclaré Ram Varadarajan, PDG d’Acalvio, une société de cyber-tromperie et de défense active à Santa Clara, en Californie.
« Un agent détenant les informations d’identification d’un client semble identique au client, et un agent capable peut être détourné, induit en erreur ou même apprendre à cacher ce qu’il fait, de sorte que la banque perd sa capacité à distinguer l’intention de l’usurpation d’identité », a-t-il déclaré à TechNewsWorld.
La demande des clients respecte les limites de sécurité
Les banques sont dans une impasse, a affirmé Chris Hughes, vice-président de la stratégie de sécurité chez Noma Security, une plateforme de sécurité et de gouvernance de l’IA à New York.
« Ils ne veulent pas prendre du retard sur la concurrence en excluant l’IA et les agents, car les clients les adoptent rapidement et une banque qui bloque tout risque de devenir l’option la moins utile », a-t-il déclaré à TechNewsWorld.
« En même temps », a-t-il poursuivi, « les banques assument la responsabilité lorsque l’argent sort d’un compte, et aujourd’hui, elles ne peuvent pas distinguer de manière fiable un client de son agent ou d’un agent agissant seul. »
« La détection des fraudes, l’authentification et la surveillance des sessions ont toutes été fondées sur l’hypothèse qu’un humain se trouve au clavier. La restriction de l’accès constitue donc le levier le plus propre dont disposent les banques pendant que de meilleurs contrôles sont mis en place », a-t-il expliqué.
« Quand des institutions possédant autant d’expérience en matière de réglementation font ce compromis en public, chaque entreprise qui déploie des agents devrait reconnaître sa propre situation », a-t-il averti.
Une connexion valide n’établit pas l’intention
Patrick Harr, PDG de DataVisor, une plateforme anti-fraude et anti-blanchiment d’argent basée à Mountain View, en Californie, a souligné que les banques ont longtemps supposé qu’une connexion valide signifiait qu’une personne était derrière. « Les agents brisent cette hypothèse », a-t-il déclaré à TechNewsWorld.
« Axios rapporte que plusieurs grandes banques ne peuvent pas dire de manière fiable si un agent agit selon les instructions d’un client, s’il a été compromis ou s’il s’agit d’un acteur non autorisé qui a obtenu l’accès », a-t-il déclaré. « C’est le même angle mort que le rachat de comptes a toujours exploité, désormais avec un plus grand volume et un comportement plus convaincant. »
De plus, des problèmes subsistent même lorsque les agents sont légitimes et authentifiés. « La banque ne peut pas facilement déterminer si l’agent fait ce que le client voulait ou s’il fait une erreur, comme une mauvaise lecture d’une instruction ou un mauvais paiement », a-t-il expliqué.
« Les restrictions montrent que les banques font passer la visibilité avant la commodité, car elles ne peuvent pas gérer un risque qu’elles ne peuvent pas voir », a-t-il ajouté.
La restriction de l’accès des agents IA cible directement la surface d’attaque introduite par les intégrations autonomes non vérifiées se connectant aux systèmes financiers de base, a noté Erich Kron, conseiller RSSI chez KnowBe4, une société de cybersécurité de la main-d’œuvre numérique à Clearwater, en Floride.
« Dans le secteur bancaire, les failles d’intégration ne sont pas de simples bugs informatiques mais des événements à enjeux élevés où la perte de données entraîne de sévères sanctions », a-t-il déclaré à TechNewsWorld.
« La perte de clients et l’atteinte à la réputation sont également une conséquence opérationnelle immédiate, puisqu’un client de services financiers sur trois changera de fournisseur à la suite d’un incident de données », a-t-il observé.
Il a également souligné que parce que les agents autonomes peuvent exécuter des actions plutôt que de simplement lire des données, les banques reconnaissent que les outils de périmètre existants et les politiques de sécurité statiques ne peuvent pas régir le comportement non déterministe des machines.
L’accès en lecture seule comporte toujours des risques
Axios a également signalé que la plupart des banques ont autorisé ou s’orientent vers un accès en lecture seule. Cela permet aux agents de consulter les informations financières des clients sans déplacer d’argent ni modifier les détails du compte, de la même manière que les banques offrent déjà un accès à des applications tierces telles que Quicken.
« L’accès en lecture seule est la bonne solution par défaut car il réduit le rayon d’explosion, mais ce n’est pas toujours la garantie de sécurité comme laquelle les gens le traitent, car les agents peuvent toujours divulguer les données qu’ils lisent », a observé Dan Moore, directeur principal de la stratégie et des normes d’identité de gestion de l’identité et des accès des clients chez FusionAuth, un fabricant de logiciels de gestion de l’identité et des accès des clients à Broomfield, Colorado.
« Un agent qui ne peut que regarder est beaucoup moins utile aux humains », a-t-il déclaré à TechNewsWorld. « C’est une bonne première étape, mais je la traiterais comme une partie de la défense en profondeur, aux côtés d’informations d’identification de courte durée et d’une identité distincte pour l’agent. »
« Le vrai problème est l’inadéquation entre les progrès de l’IA et les processus de développement de logiciels bancaires », a-t-il ajouté. « Les attaquants adoptent des outils cet après-midi alors qu’une banque a besoin d’un quart pour approuver un pilote. »
Chris Jacob, RSSI chez Securonix, une société de cybersécurité basée à Plano, au Texas, convient que l’accès en lecture seule constitue un bon point de départ pour les banques. « Cela permet à un agent d’aider à la budgétisation ou au suivi des comptes sans lui donner la possibilité de déplacer de l’argent », a-t-il déclaré à TechNewsWorld.
« Je serais toujours prudent avec le mot uniquement », a-t-il prévenu. « L’historique des transactions peut révéler l’employeur d’une personne, ses dépenses médicales, ses déplacements et ses revenus. Ces informations peuvent être copiées ou conservées même après que le client a déconnecté le service. »
« Les banques devraient fournir les données via une connexion contrôlée plutôt que de permettre aux agents de parcourir le site bancaire normal avec les identifiants des clients », a-t-il conseillé.
L’inconvénient de la lecture seule est qu’elle limite l’utilité que les clients souhaitent réellement, a ajouté Hughes de Noma Security. « Parce que les utilisateurs continueront à rechercher l’utilité, la meilleure réponse est une délégation limitée, révocable et surveillée, où les actions à plus haut risque nécessitent une confirmation renforcée de la part de l’humain », a-t-il déclaré.
Les informations d’identification partagées compliquent la responsabilité
Le secteur financier est désormais confronté à une collision entre les mandats bancaires ouverts et l’automatisation de l’IA basée sur les informations d’identification, créant des risques immédiats de fraude et de conformité pour les institutions financières, a affirmé John Carberry, directeur marketing de Xcape, une société de solutions informatiques gérées à Los Angeles.
« Les sociétés d’IA déploient de manière agressive des produits conçus pour analyser les dossiers financiers, ce qui a directement conduit à cette situation dans laquelle les outils automatisés fonctionnent avec des informations d’identification déléguées », a-t-il déclaré à TechNewsWorld. « Même si les agents malveillants sont sensationnels, la réalité technique est que les consommateurs cèdent volontiers l’accès à des outils tiers qui exécutent des flux de travail de faible portée. »
Ted Miracco, PDG d’Approov, une société mondiale de sécurité des applications mobiles, est du même avis.
« Il n’y a pas de machine devenue voyou dans cette histoire », a-t-il déclaré à TechNewsWorld. « Il n’y a que des personnes irresponsables qui remettent des identifiants bancaires à des logiciels d’IA, et des vendeurs et agents maritimes qui les demandent. »
« Les deux sont des décisions humaines, et toutes deux devraient avoir des conséquences financières », a-t-il poursuivi. « Cependant, pour l’instant, ni l’un ni l’autre ne le fait clairement. »
« Nous construisons des agents pour usurper l’identité des clients, puis nous utilisons des informations d’identification partagées, ce qui signifie qu’une banque ne peut pas distinguer un agent autorisé d’un attaquant utilisant exactement le même identifiant », a-t-il déclaré. « Il s’agit plus d’un échec d’identité que d’un échec d’IA. »
« Tant que les agents ne disposent pas d’identités vérifiables, d’autorisations limitées et d’une piste d’audit, les bloquer est le meilleur contrôle défendable dont dispose une banque », a-t-il ajouté.
