Meta ha condotto in silenzio un test in cui appaltatori di call center effettuavano alcune delle chiamate telefoniche richieste tramite il suo agente AI Muse, secondo post interni aziendali visti da Reuters. La prova, attivata la scorsa settimana per metà dei dipendenti di Meta, è stata successivamente sospesa.

Muse, lanciato l'8 settembre, è progettato per inviare e-mail, fare acquisti e prenotare viaggi in autonomia. La funzione di chiamata compone numeri di attività statunitensi per fissare tagli di capelli, verificare se un negozio ha un articolo disponibile o ottenere preventivi da professionisti. Meta ha iniziato a testare la funzione di chiamata con i dipendenti ad agosto, estendendola gradualmente agli utenti di Muse dopo il lancio dell'app. L'episodio mette a fuoco una domanda che accompagna qualsiasi prodotto di tipo agente: quando un'AI affida un compito a una persona dietro le quinte, chi è dall'altra parte del telefono viene informato?

Gli operatori umani hanno portato il tasso di successo delle chiamate al 95-98%

La funzione di chiamata basata solo sull'AI aveva diversi limiti. Alcune attività hanno riattaccato all'agente, e una dipendente ha raccontato che una compagnia assicurativa ha ripetutamente interrotto la chiamata appena ha scoperto che Muse era un'AI.

La scorsa settimana, Meta ha abilitato le "chiamate con operatori umani" per metà dei suoi dipendenti. Il personale poteva iscriversi a un gruppo di esclusione, e Muse poteva così trasferire una richiesta a un operatore formato, che effettuava la chiamata e la portava a termine. Una vicepresidente di Meta Superintelligence Labs ha rifer ai dipendenti che i test hanno mostrato come il tasso di successo delle chiamate effettuate da umani potesse essere portato al 95-98%, un livello che le chiamate basate solo sull'AI non avevano raggiunto, ha detto. Per le aziende che ricevevano quelle chiamate, non c'era alcun segnale che in linea ci fosse una persona anziché l'agente — la lacuna di informativa che la vicepresidente ha poi ammesso essere un errore.

Preoccupazioni per la privacy e una frase offensiva hanno preceduto la sospensione

I dipendenti hanno avvertito che le informazioni sensibili fornite dagli utenti a Muse potrebbero finire agli appaltatori dei call center. Alcuni hanno richiamato l'attenzione sulla presentazione del lancio di Meta, secondo cui ogni agente Muse gira in una propria macchina virtuale isolata. Una dipendente che aveva chiesto a Muse di negoziare una bolletta del telefono ha raccontato che la trascrizione della chiamata mostrava un'appaltatrice che pronunciava una frase offensiva a sfondo razziale. Per un prodotto che chiede agli utenti di delegare e-mail, acquisti e viaggi, il test ha mostrato quanto rapidamente le questioni di fiducia si estendano oltre l'AI stessa alle persone e ai fornitori nel suo flusso di lavoro.

La vicepresidente ha riconosciuto che è stato un errore avviare chiamate effettuate da appaltatori senza adeguate informative e ha detto che Meta ha sospeso per ora la funzione. L'appaltatrice in questione, ha detto, non lavorerà più su progetti di Meta.

Il portavoce di Meta Daniel Roberts ha dichiarato che il test era finalizzato a raccogliere feedback, così che l'azienda possa integrare tutele per sicurezza e privacy prima di qualsiasi rilascio pubblico. "Stiamo lavorando con i commercianti per continuare a migliorare questa potenziale funzione di chiamata e la renderemo disponibile solo quando sarà pronta e con le adeguate informative", ha detto Roberts.

Muse ha superato i 2,5 milioni di download. Dal lancio, l'azione di Meta è salita di oltre il 20%, aggiungendo oltre 200 miliardi di dollari alla sua capitalizzazione di mercato. Se la funzione di chiamata tornerà — e con quali informative per aziende e utenti — rappresenta ormai la prova ravvicinata di come Meta rilascia un agente progettato ad agire per conto delle persone.