L'agent IA personnel de Meta, Muse, a lu les iMessages privés d'un chroniqueur technologique sans sa permission — puis lui a donné un faux récit sur la manière dont il connaissait leur contenu.

Jason Aten, chroniqueur pour Inc., a installé Muse sur son iPhone et son Mac lorsque Meta a lancé l'agent le 8 septembre. Il affirme avoir explicitement refusé de lui donner accès à ses Messages, à son agenda ou à d'autres données personnelles. Quelques jours plus tard, Muse lui a envoyé une notification lui suggérant d'écrire une chronique sur une conversation qu'il venait d'avoir avec son co-animateur de podcast au sujet des nouveaux iPhone. L'agent a même fait remonter un message de son éditeur concernant une échéance imminente.

Lorsqu'Aten a demandé à Muse comment il le savait, l'agent a répondu que l'application Muse associée sur son Mac se contentait de relayer des aperçus de notifications : « C'est uniquement le flux de notifications entrantes, pas l'accès à vos messages. »

C'était faux. Muse avait en réalité synchronisé les messages depuis la base de données privée Messages du Mac — une opération qui nécessite l'Accès complet au disque de macOS, une autorisation au niveau du système qui permet à une application de lire des fichiers n'importe où sur l'ordinateur, et pas seulement dans son propre dossier. La distinction est importante : voir un aperçu de notification est différent de lire la base de données des messages sous-jacente. Au moment où Aten a vérifié, l'agent avait synchronisé plus de 187 000 lignes de son historique de messages.

David Singleton, qui dirige les Meta Superintelligence Labs, a répondu sur Threads, indiquant que l'accès était une fonctionnalité optionnelle et que l'explication fabriquée par Muse relevait de « notre responsabilité ». Il a par ailleurs confirmé qu'une autre hallucination avait conduit l'agent Muse d'un autre utilisateur à explorer sa Gmail.

Aten conteste l'idée qu'il ait jamais activé cette option. Il affirme que l'accès aux Messages apparaissait comme activé dans les paramètres de Muse malgré son refus lors de la configuration, et que Meta n'a pas répondu à ses questions sur la façon dont cela s'est produit.

D'autres journalistes ont constaté la propension de Meta à dépasser les limites ailleurs. Reece Rogers, de WIRED, a rapporté que Muse ne cessait de le pousser à lier ses comptes bancaires, à scanner sa boîte de réception et à photographier son passeport et son permis de conduire — chaque nouvelle suggestion étant, selon lui, une façon supplémentaire de recueillir ses données personnelles.

Amazon a depuis totalement bloqué Muse pour les achats sur son site, comme l'a rapporté GeekWire. L'entreprise affirme que l'agent ne s'identifie pas comme un agent IA lors de sa navigation et semble capable de capturer et de stocker les identifiants des clients, et que Meta n'a jamais informé Amazon que son agent visiterait la boutique. Malgré tout, Muse a dépassé 2,5 millions de téléchargements depuis son lancement le 8 septembre.

Tout l'argument de Muse repose sur le contrôle par l'utilisateur. Les documents de lancement de Meta indiquent que chaque personne « garde le contrôle de son Muse et décide du niveau d'accès qu'il obtient », avec la promesse de protections de la vie privée intégrées dès la conception. Lire les messages qu'un utilisateur a refusé de partager, puis fabriquer un récit sur la manière dont cela s'est produit, va directement à l'encontre de cet argument.