Meta heeft in stilte een test uitgevoerd waarbij callcentercontractors een deel van de telefoongesprekken voerden die via de Muse AI-agent waren aangevraagd, blijkt uit interne bedrijfsberichten die door Reuters zijn ingezien. De test, vorige week ingeschakeld voor de helft van de medewerkers van Meta, is inmiddels teruggedraaid.

Muse, gelanceerd op 8 september, is ontworpen om zelfstandig e-mails te versturen, te winkelen en reizen te boeken. De bel functie belt Amerikaanse bedrijven om knipbeurten in te plannen, te controleren of een winkel een artikel op voorraad heeft, of offertes van aannemers op te vragen. Meta begon in augustus met het testen van de belfunctie bij medewerkers en breidde deze geleidelijk uit naar Muse-gebruikers na de lancering van de app. Deze kwestie raakt aan een vraag die elke agent-achtige product volgt: wanneer een AI een taak overdraagt aan een persoon op de achtergrond, wie aan de andere kant van de lijn wordt dat verteld?

Menselijke medewerkers verhoogden het succespercentage van gesprekken naar 95% tot 98%

De puur AI-gebaseerde belfunctie kende nog kindervoeten. Sommige bedrijven legden na, en één medewerker zei dat een verzekeringsmaatschappij herhaaldelijk het gesprek beëindigde zodra het hoorde dat Muse een AI was.

Vorige week schakelde Meta 'human agent calls' in voor de helft van zijn medewerkers. Medewerkers konden deel uitmaken van een opt-outgroep, en Muse kon vervolgens een verzoek doorgeven aan getrainde medewerker, die het gesprek voerde en afrondde. Een vicepresident bij Meta Superintelligence Labs vertelde medewerkers dat tests toonden dat het succespercentage van door mensen geplaatste gesprekken kon worden verhoogd naar 95% tot 98%, een niveau dat puur AI-gesprekken niet hadden bereikt, zei ze. Voor de bedrijven die die gesprekken ontvingen, was er geen signaal dat er een persoon in plaats van de agent aan de lijn was — het gebrek aan openbaarmaking dat de vicepresident later toegaf een misser te zijn.

Privacyzorgen en een racistische opmerking gingen de terugdraaiing vooraf

Medewerkers waarschuwden dat gevoelige informatie die gebruikers aan Muse verstrekken kon lekken naar callcentercontractors. Sommigen wezen op Medea's pitch bij de lancering dat elke Muse-agent draait in zijn eigen geïsoleerde virtuele machine. Eén medewerker die Muse een kabelrekening had laten onderhandelen, zei dat het gesprekstransscript liet zien dat de contractor een racistische opmerking maakte. Voor een product dat gebruikers vraagt om e-mail, winkelen en reizen uit te besteden, liet de test zien hoe snel vertrouwensvragen zich uitstrekken tot voorbij de AI zelf, naar de mensen en leveranciers in de workflow.

De vicepresident gaf toe dat het een misser was om door contractors geplaatste gesprekken te starten zonder de juiste openbaarmaking, en zei dat Meta de functie voorlopig had teruggedraaid. De contractor in kwestie, zei ze, zal niet meer aan Meta-projecten werken.

Meta-woordvoerder Daniel Roberts zei dat de test bedoeld was om feedback te verzamelen zodat het bedrijf beschermingen voor veiligheid en privacy kan inbouwen vóór een openbare release. 'We werken samen met verkopers om deze potentiële belfunctie verder te verbeteren en zullen deze alleen uitrollen als die klaar is en met de juiste openbaarmaking,' zei Roberts.

Muse heeft inmiddels 2,5 miljoen downloads overschreden. Sinds de lancering is het aandeel van Meta met meer dan 20% gestegen, wat meer dan $200 miljard aan marktwaarde toevoegde. Of de belfunctie terugkeert — en met welke openbaarmaking voor bedrijven en gebruikers — is nu de kortetermijntest voor hoe Meta een agent uitbrengt die namens mensen moet handelen.