Meta a discrètement mené un test dans lequel des prestataires de centre d'appels passaient certains des appels téléphoniques demandés via son agent IA Muse, selon des publications internes consultées par Reuters. L'essai, activé la semaine dernière pour la moitié des employés de Meta, a depuis été suspendu.

Muse, lancé le 8 septembre, est conçu pour envoyer des e-mails, effectuer des achats et réserver des voyages de manière autonome. Sa fonction d'appel compose des numéros d'entreprises américaines pour prendre rendez-vous chez le coiffeur, vérifier la disponibilité d'un article en magasin ou obtenir des devis d'entrepreneurs. Meta a commencé à tester la fonction d'appel avec ses employés en août, puis l'a progressivement étendue aux utilisateurs de Muse après le lancement de l'application. Cet épisode met en lumière une question qui accompagne tout produit de type agent : lorsqu'une IA confie une tâche à une personne en coulisses, qui, au bout du fil, en est informé ?

Les agents humains ont porté le taux de réussite des appels à 95 % à 98 %

La fonction d'appel entièrement automatisée par IA présentait des lacunes. Certaines entreprises ont raccroché à la figure de l'agent, et un employé a indiqué qu'une compagnie d'assurance mettait systématiquement fin à l'appel dès qu'elle apprenait que Muse était une IA.

La semaine dernière, Meta a activé les « appels par agent humain » pour la moitié de ses effectifs. Les employés pouvaient rejoindre un groupe de retrait, et Muse pouvait alors transmettre une demande à un agent formé, qui passait l'appel et menait la demande à son terme. Une vice-présidente de Meta Superintelligence Labs a indiqué aux employés que les tests montraient que le taux de réussite des appels passés par des humains pouvait atteindre 95 % à 98 %, un niveau que l'appel entièrement automatisé n'avait pas atteint, a-t-elle déclaré. Pour les entreprises recevant ces appels, aucun signal n'indiquait qu'une personne plutôt que l'agent était au bout du fil — un manque d'information que la vice-présidente a ensuite reconnu comme une erreur.

Des préoccupations de confidentialité et une remarque raciste avant la suspension

Des employés ont averti que les informations sensibles fournies par les utilisateurs à Muse pouvaient être divulguées aux prestataires de centre d'appels.ains ont invoqué le discours de lancement de Meta selon lequel chaque agent Muse s'exécute dans sa propre machine virtuelle isolée. Un employé qui avait demandé à Muse de négocier une facture de câble a indiqué que la transcription de l'appel montrait que le prestataire avait tenu une remarque raciste. Pour un produit qui demande aux utilisateurs de déléguer leurs e-mails, leurs achats et leurs voyages, ce test a montré la vitesse à laquelle les questions de confiance s'étendent au-delà de l'IA elle-même aux personnes et aux prestataires de son flux de travail.

La vice-présidente a reconnu qu'il s'agissait d'une erreur de lancer des appels passés par des prestataires sans informations appropriées, et a déclaré que Meta avait suspendu la fonctionnalité pour le moment. Le prestataire concerné, a-t-elle précisé, ne travaillera plus sur des projets de Meta.

Le porte-parole de Meta, Daniel Roberts, a déclaré que le test visait à recueillir des retours afin que l'entreprise puisse intégrer des protections en matière de sécurité et de confidentialité avant toute mise à disposition publique. « Nous travaillons avec des commerçants pour continuer à améliorer cette fonction d'appel potentielle et nous ne la déploierons que lorsqu'elle sera prête et avec les informations appropriées », a déclaré Roberts.

Muse a dépassé les 2,5 millions de téléchargements. Depuis son lancement, l'action Meta a grimpé de plus de 20 %, ajoutant plus de 200 milliards de dollars à sa capitalisation boursière. Le retour éventuel de la fonction d'appel — et selon quelles informations pour les entreprises et les utilisateurs — constitue désormais le test à court terme de la manière dont Meta déploie un agent conçu pour agir au nom des utilisateurs.