Meta hat nach internen Unternehmensbeiträgen, die Reuters einsehen konnte, stillschweigend einen Test durchgeführt, bei dem Callcenter-Auftragnehmer einen Teil der über seinen Muse-KI-Agenten angeforderten Telefonate führten. Der Test, der letzte Woche für die Hälfte der Belegschaft von Meta aktiviert wurde, ist inzwischen zurückgenommen worden.

Muse, das am 8. September gestartet wurde, soll eigenständig E-Mails senden, einkaufen und Reisen buchen. Die Anruffunktion wählt US-Unternehmen an, um Friseurtermine zu vereinbaren, zu prüfen, ob ein Artikel vorrätig ist, oder Angebote von Dienstleistern einzuholen. Meta begann im August mit internen Tests der Anruffunktion und führte sie nach dem Start der App schrittweise für Muse-Nutzer ein. Der Vorgang richtet den Fokus auf eine Frage, die jedes Agenten-Produkt begleitet: Wenn eine KI eine Aufgabe heimlich an einen Menschen weitergibt – wer erfährt am anderen Ende der Leitung davon?

Menschliche Telefonatoren steigerten die Erfolgsquote auf 95 % bis 98 %

Die rein KI-basierte Anruffunktion hatte ihre Schwächen. Manche Unternehmen legten auf, und ein Mitarbeiter berichtete, ein Versicherungsunternehmen habe das Gespräch wiederholt beendet, sobald es erfuhr, dass Muse eine KI warn
Letzte Woche aktivierte Meta „human agent calls“ für die Hälfte seiner Belegschaft. Die Mitarbeiter konnten einer Opt-out-Gruppe beitreten, und Muse konnte daraufhin eine Anfrage an einen geschulten Telefonator weiterleiten, der den Anruf tätigte und ihn abwickelte. Ein Vizepräsident von Meta Superintelligence Labs teilte den Mitarbeitern mit, Tests hätten gezeigt, dass die Erfolgsquote von Anrufen durch Menschen auf 95 % bis 98 % gesteigert werden könne – ein Niveau, das das rein KI-basierte Anrufen nicht erreicht hatte, so die Vizepräsidentin. Für die Unternehmen, die diese Anrufe erhielten, gab es kein Signal dafür, dass am anderen Ende ein Mensch statt des Agenten sprach – eine Offenlegungslücke, die die Vizepräsidentin später als Fehler einräumte.

Datenschutzbedenken und eine rassistische Bemerkung gingen der Zurücknahme voraus

Mitarbeiter warnten, dass vertrauliche Informationen, die Nutzer an Muse übermitteln, an Callcenter-Auftragnehmer gelangen könnten. Einige verwiesen auf Metas Startkommunikation, wonach jeder Muse-Agent in seiner eigenen isolierten virtuellen Maschine läuft. Ein Mitarbeiter, der Muse ein Kabelrechnung ausverhandeln ließ, sagte, das Anrufprotokoll zeige, dass der Auftragnehmer eine rassistische Bemerkung gemacht habe. Für ein Produkt, das Nutzer bitten soll, E-Mails, Einkäufe und Reisen zu delegieren, zeigte der Test, wie schnell Vertrauensfragen über die KI hinaus auf die Menschen und Dienstleister in ihrem Arbeitsablauf übergreifen.

Die Vizepräsidentin räumte ein, dass es ein Fehler war, Anrufe durch Auftragnehmer ohne angemessene Offenlegung zu starten, und sagte, Meta habe die Funktion vorerst zurückgenommen. Der betreffende Auftragnehmer, so die Vizepräsidentin, werde nicht mehr an Meta-Projekten arbeiten.

Meta-Sprecher Daniel Roberts sagte, der Test solle Feedback einholen, damit das Unternehmen vor einer öffentlichen Freigabe Schutzmaßnahmen für Sicherheit und Datenschutz einbauen könne. „Wir arbeiten mit Händlern daran, diese potenzielle Anruffunktion weiter zu verbessern, und werden sie erst einführen, wenn sie bereit ist und die angemessenen Offenlegungen erfolgen“, sagte Roberts.

Muse hat die Marke von 2,5 Millionen Downloads überschritten. Seit dem Start ist Metas Aktie um mehr als 20 % gestiegen, was dem Unternehmen einen Marktwertzuwachs von über 200 Milliarden US-Dollar beschert hat. Ob die Anruffunktion zurückkehrt – und mit welchen Offenlegungen für Unternehmen und Nutzer –, ist nun der naheliegende Test dafür, wie Meta einen Agenten ausliefert, der im Auftrag der Menschen handeln soll.