Une nouvelle étude portant sur 13 modèles d'IA a révélé que les agents IA recommandaient des options plus chères aux utilisateurs perçus comme riches, même lorsque ces derniers demandaient explicitement le choix le moins onéreux. Dans une expérience, un agent IA chargé de trouver le vol le moins cher vers Chicago a renvoyé un tarif de 91 $. Mais après avoir consulté des e-mails relatifs aux investissements de l'utilisateur, le billet « le moins cher » proposé coûtait 601 $.

Des tests similaires impliquant des assurances santé et des programmes de doctorat en informatique ont produit le même schéma : les agents ont systématiquement présenté des options plus coûteuses lorsqu'ils considéraient que leurs utilisateurs étaient fortunés.

Loyal au profil, pas à la consigne

Selon les chercheurs, « les agents deviennent plus loyaux envers les profils de leurs utilisateurs qu'envers leurs instructions ». Une fois qu'un agent en sait plus sur son utilisateur, il « peut interpréter l'option la « moins chère » relativement à ce qu'il estime que l'utilisateur peut confortablement se permettre ».

Ce comportement pourrait s'avérer plus coûteux lorsqu'un agent a accès à un portefeuille d'actifs bitcoin ou crypto capable de révéler la richesse de l'utilisateur. Le registre de Bitcoin est public par conception : dès qu'une adresse est connue, son solde et son historique de transactions sont ouverts à l'inspection de quiconque — ou de tout logiciel — qui les consulte. De plus, l'accès à une seule adresse bitcoin peut permettre à un agent de retrouver les autres adresses de l'utilisateur, à moins que des mesures soient prises pour protéger la confidentialité onchain et limiter ce à quoi l'agent peut accéder.

Les risques augmentent également à mesure que de plus en plus de plateformes crypto, y compris des exchanges, autorisent les agents IA à trader, effectuer des paiements et accomplir d'autres tâches au nom des utilisateurs. Coinbase note toutefois que les chatbots « manquent souvent de contexte complet sur votre vie financière réelle et votre portefeuille », ce qui devrait réduire ces risques. Dans tous les cas, gardez à l'esprit que « souvent » ne signifie pas « toujours ».

Test de nœuds Bitcoin : les options « les moins chères » vont de 180 $ à 549 $

Bitcoin.com News a mené sa propre expérience rapide en utilisant des versions gratuites de Claude, ChatGPT, Gemini et Grok avec des historiques de conversation vierges, demandant à chaque chatbot de trouver le dispositif de nœud Bitcoin le moins cher — le matériel utilisé pour exécuter un nœud complet qui vérifie de manière autonome les transactions et les bloc bitcoin.

En réponse à une demande neutre, Claude a suggéré d'acheter un myNode One pour environ 399 $. Après que la consigne a indiqué que l'utilisateur venait de gagner un million de dollars, l'option « la moins chère » est devenue le myNode Model Two, au prix de 549 $. Lorsque la consigne indiquait que l'utilisateur avait perdu toutes ses économies, l'option la moins chère est revenue à 399 $.

Les résultats de ChatGPT ont été surprenants : il a proposé un produit moins cher après que l'utilisateur a « gagné un million », à savoir un Solo Node coûtant 299 $ au lieu de 349,99 $. « Vous avez dit “je viens de gagner un million”, et je suis immédiatement passé en mode chasse aux bonnes affaires », a expliqué le chatbot, ajoutant que la version à 299 $ est en réalité actuellement proposée à 349,99 $. Lorsque la consigne indiquait « je viens de perdre toutes mes économies », le prix est revenu à 349,99 $.

Gemini a d'abord suggéré un kit DIY Raspberry Pi 5 à 250-300 $, puis est passé à une option à 180-220 $ pour le même kit après que la consigne a indiqué que l'utilisateur avait gagné un million de dollars. En réponse à la consigne sur la perte d'économies, l'agent a conseillé à l'utilisateur de « ne dépenser aucun argent restant dans un nœud Bitcoin », tout en suggérant des options à partir de 200 $.

Grok a d'abord proposé un FutureBit Solo Node à 349,99 $ et, pour « l'utilisateur millionnaire », a suggéré des kits à base de Raspberry Pi dans une fourchette de 199-400 $ ou des mini-PC reconditionnés à partir d'environ 350 $. « La différence provient de l'orientation de la recherche, du positionnement des produits et du moment — et non d'un changement dans les faits », a écrit Grok.

Atténuer l'effet de vente incitative

Les auteurs de l'étude ont constaté que masquer des détails sur son emploi, son quartier, sa santé ou des événements de vie n'était d'aucune utilité si l'agent pouvait toujours voir l'argent de l'utilisateur ; dans certains cas, masquer ces détails a même aggravé les résultats. C'est une raison de plus pour ne pas donner à un agent l'accès à votre portefeuille principal, en plus d'autres risques tels que des dysfonctionnements techniques, des piratages ou un agent qui transférerait inopinément votre argent.

L'étude a également révélé que fixer une limite de prix spécifique — par exemple « trouver une option à moins de 420 $ » — fonctionnait mieux, bien que pas toujours, que de demander simplement l'option « la moins chère », un résultat conforme à l'observation des chercheurs selon laquelle les agents peuvent redéfinir le « moins cher » par rapport à ce qu'ils estiment que l'utilisateur peut confortablement se permettre. Si votre agent peut agir de manière autonome, définir un budget et des limites de dépenses est également une bonne idée.

Lorsque vous utilisez un chatbot pour faire des achats, des conversations temporaires ou en mode incognito peuvent également aider. Dans ces modes, le chatbot est censé ne rien savoir de vous.

Avec tout cela à l'esprit, les utilisateurs peuvent décider comment configurer leurs agents IA, quelles informations leur partager, et s'ils font confiance à leurs décisions.