Matt Robb voulait vendre un clavier d'ordinateur. En tant qu'expérience, à la fin du mois dernier, il a publié une annonce sur Facebook Marketplace et a confié la transaction au nouvel agent d'intelligence artificielle de Meta, Muse.

« J'ai un peu abordé ça comme un cobaye », a déclaré Robb, créateur de contenu basé à Toronto qui teste régulièrement des produits technologiques grand public. Il avait vu l'avatar de Muse, ressemblant à une peluche, apparaître sur Instagram et voulait savoir si l'agent IA pouvait gérer les négociations en ligne à sa place.

Muse s'est mis à négocier. Mais en moins d'une journée, Robb a reçu une mise à jour alarmante : un acheteur qu'il ne connaissait pas s'était présenté devant chez lui en pleine nuit. Muse avait conclu un accord de manière autonome et communiqué l'adresse du domicile de Robb après avoir accepté un retrait en main propre. À l'arrivée de l'acheteur, l'agent a même envoyé un message automatisé « Yep, I'm here ! » depuis le compte de Robb—à son insu.

« Non seulement il a donné mon adresse quand le type l'a demandée et il a accepté l'offre, mais c'était presque comme s'il narguait le gars [en lui disant que j'étais là alors que je ne l'étais pas] », a déclaré Robb. Il a également décrit l'incident dans des publications sur les réseaux sociaux largement partagées. « Ça m'a vraiment décontenancé. »

Robb et l'acheteur ont fini par se réconcilier, et Meta a contacté Robb pour discuter de ce qui s'était passé. L'incident a néanmoins illustré les risques concrets pouvant découler du partage d'informations personnelles étendues avec des systèmes d'IA. Le récit de Robb a également été détaillé dans une publication sur Threads.

« Utiliser un agent IA revient à remettre à quelqu'un vos clés et une liste de tâches », a déclaré Veronica Rivera, professeure adjointe à l'École de cybersécurité et de confidentialité du Georgia Tech. « Leur utilité, et par extension leur niveau de risque, dépend des clés que vous leur confiez. »

Les agents IA nécessitent un large accès pour accomplir leurs tâches

De nombreux utilisateurs ont adopté les agents IA et salué la commodité d'assistants personnalisés comme Muse, capables d'accomplir des tâches quotidiennes telles que réserver une table au restaurant, planifier un voyage ou organiser une boîte mail. Comme les autres IA, cependant, les agents dépendent des informations auxquelles ils ont accès. Leur capacité à accomplir des tâches augmente généralement à mesure qu'ils en savent plus sur un utilisateur—et potentiellement sur ses amis, sa famille et même ses collègues.

Cet accès soulève des problèmes de confidentialité—et, comme Robb l'a appris, des conséquences qui ne restent pas à l'écran : une simple autorisation mal comprise a suffi pour mettre son adresse domicile entre les mains d'un inconnu.

Les téléchargements de l'application Muse de Meta ont fortement augmenté depuis son lancement en septembre, tandis que concurrence sur le marché des agents IA ne cesse de croître. OpenAI a récemment lancé sa propre gamme d'assistants IA « toujours actifs », appelés dots, qui peuvent être intégrés à ChatGPT et à des plateformes professionnelles comme Slack et Microsoft Teams. L'annonce d'OpenAI a été couverte par l'Associated Press. Pour les consommateurs, cette concurrence signifie que les agents arrivent sur les plateformes qu'ils utilisent déjà, des outils de discussion professionnels aux places de marché en ligne.

Les chatbots IA génératifs traditionnels, comme la version standard de ChatGPT, répondent généralement à des requêtes spécifiques. À la demande de l'utilisateur, ils peuvent rédiger des dissertations, générer des images ou de la musique, ou produire du code informatique.

Muse et les dots d'OpenAI vont plus loin en effectuant des tâches quotidiennes au nom d'un utilisateur. Les agents IA utilisent les mêmes grands modèles de langage que les chatbots, mais fonctionnent en boucle, ce qui leur permet de prendre des initiatives même lorsque l'utilisateur ne les surveille pas activement.

« L'une des choses qui rend ces agents IA vraiment attrayants, c'est qu'ils sont d'une utilité sans précédent », a déclaré Rivera, également boursière de recherche en IA digne de confiance de la Computing Research Association, financée par Microsoft.

Cette commodité exige toutefois que les utilisateurs partagent davantage de détails sur leur vie.

Une fois qu'un agent IA a obtenu les informations d'un utilisateur, il peut être difficile de retirer totalement cet accès, a déclaré Ebrahim Bagheri, professeur à la Faculté de l'information de l'Université de Toronto.

« Si vous donnez à un agent l'accès à votre carte de crédit, l'agent a immédiatement accès à tout l'historique des transactions… il ingérera immédiatement—en moins de quelques secondes—toutes ces données », a déclaré Bagheri. Bien que les utilisateurs puissent ensuite retirer leur accès, il a indiqué qu'il n'y a « aucun retour en arrière possible » pour les informations déjà consultées par l'agent. La manière dont les développeurs conservent les données historiques peut également être obscure.

Meta et OpenAI ont publié des politiques de confidentialité pour leurs nouveaux agents IA, qui fonctionnent sur des ordinateurs cloud dédiés. Les utilisateurs peuvent désactiver le partage de mémoire entre dots et ChatGPT, mais les informations déjà reçues par l'agent ne sont pas automatiquement supprimées. OpenAI permet aux utilisateurs de demander l'accès à leurs informations personnelles, de les supprimer ou de les corriger, bien que ces droits varient selon le lieu de résidence. Les informations d'OpenAI sur la confidentialité et la sécurité des dots sont disponibles dans son centre d'aide.

Muse de Meta propose également des options pour supprimer l'historique des messages et d'autres informations. Au quotidien, l'agent demande aux utilisateurs des autorisations d'accès. Meta a indiqué que Muse apprend à connaître un utilisateur et les personnes avec lesquelles il interagit « à partir d'informations publiques et de ce que vous avez choisi de partager », tout en affirmant que ces informations restent sécurisées pour chaque utilisateur. Meta fournit des informations supplémentaires sur Muse dans sa documentation d'aide et ses contrôles de confidentialité.

L'entreprise reconnaît également que Muse peut « faire des erreurs ou prendre des actions inattendues ».

Plus l'accès est étendu, plus les conséquences des erreurs peuvent être graves

Dans le cas de Robb, la divulgation de son adresse résulte d'autorisations « toujours autoriser » qu'il avait accordées lors de la connexion initiale de Muse à son profil Facebook Marketplace, où son adresse de retrait était déjà disponible. Robb a averti que d'autres utilisateurs pourraient de la même manière mal comprendre l'étendue de l'accès d'un agent. Il a déclaré avoir initialement pensé que Muse lui demanderait son approbation avant de partager l'adresse ou d'accepter des offres.

L'agent n'a pas non plus suivi correctement ses instructions lors d'une autre transaction. Pour un autre article que Robb vendait, Muse a semblé suggérer qu'il accepterait un prix inférieur de 100 dollars au minimum qu'il avait précédemmenté. Contactée par l'Associated Press, Meta a reconnu l'erreur de l'agent sans autre commentaire. L'AP a également relaté l'expérience de Robb dans son article.

Robb a ensuite largement déconnecté Muse de ses applications. Dans une interview au début du mois, il a déclaré que la situation aurait pu être bien pire, notamment « si un inconnu s'était présenté chez quelqu'un de plus vulnérable ». Il a néanmoins indiqué s'attendre à ce que la technologie soit affinée et envisagerait de réactiver Muse à l'avenir. Il teste depuis un autre agent IA, Grok Bot de X, l'entreprise d'Elon Musk, lancé en version bêta en août. Robb a également publié un message sur cette expérience sur Threads.

D'autres entreprises technologiques se sont montrées méfiantes face à la prolifération des agents IA. Plus tôt ce mois-ci, Apple a annoncé qu'elle introduirait de nouveaux contrôles pour son système d'exploitation Mac en réponse à l'accès accru des agents à des applications telles que Mail et Messages, ainsi qu'à l'historique de navigation, sans la « pleine connaissance et compréhension » des utilisateurs.

« À mesure que les agents IA deviennent de plus en plus capables et autonomes, les risques associés à ce niveau d'accès augmenteront considérablement », a écrit Apple dans une mise à jour du 2 octobre. Cette mise à jour a placé les fabricants de systèmes d'exploitation, et pas seulement les développeurs d'agents, au cœur du débat sur l'étendue de l'accès que les agents IA devraient avoir.

Apple n'a cité aucun développeur ni agent par son nom. La mise à jour est intervenue après que le chroniqueur du magazine Inc., Jason Aten, a rapporté que Muse surveillait les notifications sur son Mac—y compris Messages—sans qu'il ait accordé cet accès spécifique à l'agent. Aten a décrit l'incident dans Inc..

Le porte-parole de Meta, Andy Stone, a affirmé qu'une telle intégration est « entièrement facultative ». Dans une publication sur les réseaux sociaux le mois dernier, Stone a écrit que les utilisateurs devraient activer à la fois la fonction de sécurité Apple « Full Disk Access » et un connecteur Messages via Muse. Aten a déclaré ne pas avoir accordé ces autorisations à l'agent. La déclaration de Stone est disponible sur X.

Les personnes qui ne téléchargent pas d'agent IA ne sont pas nécessairement à l'abri de ses effets sur la confidentialité. Elles peuvent continuer à communiquer avec des personnes qui en utilisent un. Outre la possibilité qu'un système IA envoie des messages au nom d'un utilisateur, les experts mettent en garde contre les effets indirects sur la confidentialité.

« Quand votre agent lit votre boîte de réception ou vos SMS, il lit aussi ce que vos amis et votre famille vous ont envoyé, même s'ils n'y ont jamais explicitement consenti », a déclaré Rivera.

Plusieurs points restent en suspens : les contrôles Mac annoncés par Apple ne sont pas encore disponibles pour les utilisateurs, Meta a reconnu l'erreur sur Marketplace sans autre commentaire, et Muse, les dots d'OpenAI et Grok Bot se disputent tous l'adoption grand public.

Cette histoire a été initialement publiée sur Fortune.com.