Les grandes banques se disent inquiètes à l'idée que les gens achètent via des agents IA

Dans un article publié mardi, six grandes banques mondiales, dont Bank of America et Capital One, ont averti que le shopping agent comporte « des risques couvrant la transparence, la sécurité, la confidentialité et les données, le choix et l'interopérabilité » qui augmentent « à mesure qu'une plus grande autonomie est accordée aux agents d'IA ».

Les développeurs d'IA, ainsi que divers détaillants et principaux processeurs de paiement, ont travaillé pour dévoiler des chatbots de commerce agent, c'est-à-dire des agents d'IA qui promettent d'automatiser complètement le processus d'achat en ligne. Mais l’adoption a été plus difficile à quantifier. Certains consommateurs utilisent des chatbots IA pour rechercher des produits ou obtenir des informations sur ce qu'il faut acheter lors de leurs achats en ligne, mais beaucoup hésitent encore à laisser les agents se déplacer librement sur Internet avec accès à l'intégralité de leur fortune.

« Les consommateurs ne savent pas vraiment si les agents de l’IA agiront dans leur intérêt », indique le rapport. « Ils craignent que les agents d’IA n’achètent la mauvaise chose ou dépensent trop – ou pire encore, perdent leur argent à cause d’escroqueries et de fraudes. »

De nombreux experts en technologie ne semblent pas non plus avoir totalement confiance dans l’avenir du commerce agent.

Ron Johnson, l'ancien dirigeant d'Apple derrière les premiers Apple Stores physiques, a déclaré TechCrunch dans une récente interview, il estime que l'IA « améliorera l'expérience d'achat en ligne », mais qu'elle ne changera pas réellement « la façon dont nous achetons ».

« L'IA ne pourra jamais vous faire expérimenter physiquement un produit », a déclaré Johnson. « Ils deviendront simplement des acheteurs plus informés lorsqu'ils viendront au magasin. »

Les six banques qui ont co-écrit le rapport, intitulé «Bâtir la confiance dans le commerce agent,» semblent s’accorder sur le fait que de nombreux problèmes et questions pèsent encore sur ce cas d’utilisation des agents d’IA.

Les agents IA pourraient donner la priorité à certains produits ou méthodes de paiement simplement en raison d'incitations telles que des commissions plus élevées et des coûts de jetons inférieurs, plutôt que de choisir ce qui convient le mieux au client.

Le commerce agent présente également « un potentiel de taux plus élevés d'escroqueries, de fraudes et de litiges », indique le rapport, et toute violation de données mettrait en péril les données particulièrement sensibles appartenant aux consommateurs et aux commerçants qui comptent sur ces agents.

Exemple concret : Meta vient d'annoncer avoir trouvé et corrigé une vulnérabilité zero-day dans son nouvel assistant d'IA, Muse, qui compte achats agents parmi ses fonctionnalités promues, ce qui pourrait permettre à un attaquant de détourner l'assistant IA et de profiter de toutes les autorisations que l'utilisateur lui avait accordées. L'annonce est intervenue seulement un jour après qu'Amazon a demandé à Muse de cesser d'utiliser son site de commerce électronique, affirmant que l'agent de Meta n'avait pas réussi à s'identifier lors de ses achats sur la plateforme et que cela soulevait des inquiétudes quant à la manière dont Amazon gère les informations d'identification des clients et les données de compte.

Mais les banques ne rejettent pas totalement l’idée du commerce agent, et prétendent même qu’il pourrait potentiellement devenir « un moyen courant de transaction entre les consommateurs et les commerçants ».

« Nous sommes également enthousiasmés par la promesse du commerce agent et sommes impatients de travailler avec les clients, l'industrie et les parties prenantes pour faciliter son avenir », peut-on lire dans le journal.

Mais d’abord, le commerce agent doit instaurer la confiance par le biais de normes industrielles, de politiques et de protections des consommateurs, qui sont toutes actuellement en retard sur les évolutions technologiques, affirment les banques. Le consortium travaille actuellement sur un document ultérieur pour détailler comment les cinq principes clés décrits dans ce rapport (transparence, sécurité, confidentialité et données, choix et interopérabilité) peuvent réellement être mis en œuvre pour garantir que tout déploiement d'e-commerce agentique basé sur l'IA soit aussi sûr que possible.