Meta po cichu przeprowadziła test, w którym pracownicy call center wykonywali część połączeń telefonicznych zleconych za pośrednictwem agenta AI Muse, zgodnie z wewnętrznymi wpisami firmowymi, do których dotarł Reuters. Test, włączony w zeszłym tygodniu dla połowy pracowników Mety, został już wycofany.

Muse, uruchomiony 8 września, został zaprojektowany do samodzielnego wysyłania e-maili, zakupów i rezerwacji podróży. Funkcja dzwonienia łączy się z amerykańskimi firmami, aby umówić wizytę u fryzjera, sprawdzić dostępność produktu w sklepie lub uzyskać wyceny od wykonawców. Meta rozpoczęła testowanie funkcji dzwonienia wśród pracowników w sierpniu i stopniowo rozszerzała ją na użytkowników Muse po premierze aplikacji. Ta sytuacja koncentruje się na pytaniu, które dotyczy każdego produktu typu agent: gdy AI przekazuje zadanie człowiekowi działającemu w tle, kto po drugiej stronie linii zostaje o tym poinformowany?

Połączenia wykonywane przez ludzi osiągnęły skuteczność 95–98%

Funkcja dzwonienia oparta wyłącznie na AI miała manky. Niektóre firmy rozłączały się z agentem, a jeden z pracowników powiedział, że firma ubezpieczeniowa wielokrotnie kończyła rozmowę, gdy tylko dowiedziała się, że Muse to AI.

W zeszłym tygodniu Meta włączyła „human agent calls" dla połowy swoich pracowników. Personel mógł dołączyć do grupy rezygnacji, a Muse mógł wtedy przekazać zlecenie przeszkolonym agentom, którzy wykonywali połączenie i doprowadzali sprawę do końca. Wiceprezes Meta Superintelligence Labs powiedział pracownikom, że testy wykazały, iż skuteczność połączeń wykonywanych przez ludzi może wzrosnąć do 95–98% — poziomu, którego połączenia wyłącznie przez AI nie osiągnęły. Dla firm otrzymujących takie połączenia nie było sygnału, że po drugiej stronie linii jest człowiek, a nie agent — to brak ujawnienia informacji, który wiceprezes później przyznała, był błędem.

Obawy o prywatność i rasistowska uwaga poprzedziły wycofanie funkcji

Pracownicy ostrzegali, że poufne informacje przekazywane Muse przez użytkowników mogą trafić do pracowników call center. Niektórzy wskazywali na zapewnienia Mety z premiery, że każdy agent Muse działa we własnej odizolowanej maszynie wirtualnej. Jeden z pracowników, który kazał Muse negocjować rachunek za telewizję kablową, powiedział, że transkrypcja rozmowy wykazała, iż wykonawca zewnętrzny złożył rasistowską uwagę. Dla produktu, który prosi użytkowników o powierzenie mu e-maili, zakupów i podróży, test pokazał, jak szybko kwestie zaufania wykraczają poza samo AI — na ludzi i dostawców w jego przepływie pracy.

Wiceprezes przyznała, że rozpoczęcie połączeń wykonywanych przez wykonawców zewnętrznych bez odpowiedniego ujawnienia informacji było błędem, i powiedziała, że Meta na razie wycofała tę funkcję. Jak dodała, dany wykonawca nie będzie już pracował przy projektach Mety.

Rzecznik Mety Daniel Roberts powiedział, że test miał na celu zebranie informacji zwrotnych, aby firma mogła wbudować zabezpieczenia dotyczące bezpieczeństwa i prywatności przed jakimkolwiek publicznym udostępnieniem. „Współpracujemy z handlowcami, aby dalej ulepszać tę potencjalną funkcję dzwonienia i udostępnimy ją tylko wtedy, gdy będzie gotowa i przy odpowiednim ujawnieniu informacji" — powiedział Roberts.

Muse przekroczył 2,5 miliona pobrań. Od premiery akcje Mety wzrosły o ponad 20%, dodając ponad 200 miliardów dolarów do wartości rynkowej firmy. Czy funkcjawonienia powróci — i przy jakich ujawnieniach dla firm i użytkowników — to teraz najbliższy test tego, jak Meta wdraża agenta zaprojektowanego do działania w imieniu ludzi.