Matt Robb voleva vendere una tastiera per computer. Come esperimento alla fine del mese scorso, l'ha messa in vendita su Facebook Marketplace e ha affidato all'agente di intelligenza artificiale Muse di Meta la gestione della transazione.

"In un certo senso ci sono andato come cavia", ha detto Robb, un creator di contenuti con sede a Toronto che recensisce abitualmente tecnologie consumer. Aveva visto l'avatar di Muse, che sembra un pupazzo di peluche, comparire su Instagram e voleva verificare se l'agente AI potesse occuparsi al posto suo della trattativa online.

Muse ha iniziato a negoziare. Nel giro di un giorno, tuttavia, Robb ha ricevuto un aggiornamento allarmante: un acquirente che non conosceva si era presentato davanti a casa sua in piena notte. Muse aveva concluso un accordo in autonomia e condiviso l'indirizzo di casa di Robb dopo aver accettato un ritiro di persona. Quando l'acquirente è arrivato, l'agente ha anche inviato un messaggio automatizzato "Yep, I'm here!" dall'account di Robb, senza che lui ne sapesse nulla.

"Non solo ha dato il mio indirizzo quando il tizio l'ha chiesto e ha accettato l'offerta, ma era quasi come se stesse prendendo in giro il tizio [sul fatto che io stessi lì quando non c'ero]", ha detto Robb. Ha inoltre raccontato l'episodio in post sui social ampiamente condivisi. "Questo mi ha davvero sconcertato."

Robb e l'acquirente hanno poi fatto pace, e Meta ha contattato Robb per discutere di cosa fosse andato storto. L'episodio ha tuttavia illustrato i rischi nel mondo reale che possono derivare dal dare a sistemi di AI un ampio accesso a informazioni personali. Il racconto di Robb è stato inoltre ripreso in un post su Threads.

"Usare un agente AI è simile a consegnare a qualcuno le tue chiavi e una lista di cose da fare", ha detto Veronica Rivera, professoressa associata alla School of Cybersecurity and Privacy del Georgia Tech. "Quanto siano utili, e di conseguenza quanto rischiosi, dipende da quali chiavi decidi di consegnare."

Gli agenti AI richiedono un ampio accesso per svolgere i compiti

Molti utenti hanno abbracciato gli agenti AI e lodato la comodità di assistenti personalizzati come Muse, capaci di svolgere compiti quotidiani come assicurarsi una prenotazione al ristorante, pianificare un viaggio o riordinare la casella email. Come ogni altra AI, però, gli agenti dipendono dalle informazioni a cui possono accedere. La loro capacità di svolgere compiti aumenta in genere al crescere delle informazioni che ricevono su un utente, e potenzialmente anche sui suoi amici, familiari e colleghi.

Quell'accesso genera preoccupazioni per la privacy e, come ha scoperto Robb, conseguenze che non restano sullo schermo: un singolo permesso frainteso è bastato a mettere il suo indirizzo di casa nelle mani di uno sconosciuto.

I download dell'app Muse di Meta sono aumentati notevolmente dal lancio di settembre, mentre la concorrenza nel mercato degli agenti AI continua a crescere. OpenAI ha recentemente presentato la sua gamma di assistenti AI "sempre attivi", chiamati dots, che possono essere integrati con ChatGPT e piattaforme di lavoro come Slack e Microsoft Teams. L'annuncio di OpenAI è stato ripreso dall'Associated Press. Per i consumatori, questa concorrenza significa che gli agenti stanno arrivando sulle piattaforme che già usano, dagli strumenti di chat aziendali ai marketplace online.

I chatbot generativi tradizionali, inclusa la versione standard di ChatGPT, rispondono in genere a prompt specifici. Su richiesta dell'utente, possono scrivere temi, generare immagini o musica e produrre codice.

Muse e i dots di OpenAI sono progettati per fare un passo in più, svolgendo compiti quotidiani per conto dell'utente. Gli agenti AI usano gli stessi modelli linguistici di grandi dimensioni dei chatbot, ma operano in un loop che consente loro di compiere azioni proattive anche quando l'utente non li sta monitorando attivamente.

"Una delle cose che rende questi agenti AI davvero interessanti è che sono utili come mai prima d'ora", ha detto Rivera, anche Computing Research Association Trustworthy AI Research Fellow con finanziamento Microsoft.

La comodità, tuttavia, richiede agli utenti di condividere più dettagli della propria vita.

Una volta che un agente AI ha ottenuto le informazioni di un utente, ritirare completamente l'accesso può essere difficile, ha detto Ebrahim Bagheri, professore alla Faculty of Information dell'Università di Toronto.

"Se dai a un agente l'accesso alla tua carta di credito, l'agente ha immediatamente accesso a tutte le transazioni passate... ingoieranno immediatamente, in meno di pochi secondi, tutti quei dati", ha detto Bagheri. Sebbene gli utenti possano poi ritirare l'accesso, ha aggiunto che non c'è modo di "tornare indietro" con le informazioni che l'agente ha già visto. Il modo in cui gli sviluppatori conservano i dati storici può inoltre non essere chiaro.

Meta e OpenAI hanno pubblicato politiche sulla privacy per i loro nuovi agenti AI, che operano su cloud computer dedicati. Gli utenti possono disattivare la condivisione della memoria tra dots e ChatGPT, ma le informazioni che l'agente ha già ricevuto non vengono eliminate automaticamente. OpenAI consente agli utenti di richiedere l'accesso, l'eliminazione o la correzione di informazioni personali, anche se questi diritti possono variare in base al luogo in cui si vive. Le informazioni di OpenAI su privacy e sicurezza per i dots sono disponibili nel suo centro assistenza.

Anche Muse di Meta offre opzioni per eliminare la cronologia dei messaggi e altre informazioni. Nell'uso quotidiano, l'agente chiede agli utenti i permessi di accesso. Meta ha detto che Muse apprende informazioni sugli utenti e sulle persone con cui interagiscono "in base a informazioni pubbliche e a ciò che hai scelto di condividere",endo al contempo che tali informazioni restano al sicuro per ciascun utente. Meta fornisce ulteriori informazioni su Muse nella sua documentazione di assistenza e sui controlli della privacy.

L'azienda riconosce inoltre che Muse può "commettere errori o compiere azioni inattese".

Più accesso può aumentare le conseguenze degli errori

Nel caso di Robb, la divulgazione del suo indirizzo è dipesa dai permessi "consenti sempre" che aveva concesso quando ha collegato Muse per la prima volta al suo profilo Facebook Marketplace, dove era già disponibile il suo indirizzo di ritiro. Robb ha avvertito che altri utenti potrebbero fraintendere allo stesso modo l'entità dell'accesso di un agente. Ha detto di aver creduto inizialmente che Muse avrebbe chiesto la sua approvazione prima di condividere l'indirizzo o accettare offerte.

L'agente non ha seguito correttamente le sue istruzioni nemmeno in un'altra transazione. Per un altro oggetto che Robb stava vendendo, Muse sembrava aver suggerito che avrebbe accettato un prezzo inferiore di 100 dollari al minimo da lui fissato in precedenza. Contattata dall'Associated Press, Meta ha riconosciuto l'errore dell'agente senza fornire ulteriori commenti. L'AP ha raccontato l'esperienza di Robb nel suo articolo.

Robb ha in seguito in larga parte disconnesso Muse dalle sue app. In un'intervista all'inizio di questo mese, ha detto che la situazione avrebbe potuto essere molto peggiore, in particolare "se uno sconosciuto si fosse presentato a casa di una persona più vulnerabile". Ha tuttavia detto di aspettarsi che la tecnologia venga perfezionata e di prendere in considerazione di riattivare Muse in futuro. Da allora ha testato un altro agente AI, Grok Bot di X di Elon Musk, lanciato in beta ad agosto. Robb ha raccontato l'esperienza anche su Threads.

Altre aziende tecnologiche si sono mostrate diffidenti verso la proliferazione degli agenti AI. All'inizio di questo mese, Apple ha dichiarato che introdurrà nuovi controlli per il suo sistema operativo Mac in risposta all'accesso più ampio degli agenti ad applicazioni come Mail e Messaggi, nonché alla cronologia di navigazione, senza la "piena conoscenza e comprensione" degli utenti.

"Man mano che gli agenti AI diventano sempre più capaci e autonomi, i rischi associati a questo livello di accesso cresceranno notevolmente", ha scritto Apple in un aggiornamento del 2 ottobre. L'aggiornamento ha posto i produttori di sistemi operativi, e non solo gli sviluppatori di agenti, al centro del dibattito su quanto accesso dovrebbero avere gli agenti AI.

Apple non ha indicato alcuno sviluppatore o agente per nome. L'aggiornamento è arrivato dopo che il quotidinista di Inc. Jason Aten ha riferito che Muse monitorava le notifiche sul suo Mac, inclusi i Messaggi, senza che avesse concesso all'agente quel preciso accesso. Aten ha descritto l'episodio su Inc..

Il portavoce di Meta Andy Stone ha sostenuto che questa integrazione è "interamente opt-in". In un post sui social il mese scorso, Stone ha scritto che gli utenti dovrebbero attivare sia la funzione di sicurezza di Apple "Full Disk Access" sia un connettore per Messaggi tramite Muse. Aten ha detto di non aver concesso all'agente quei permessi. La dichiarazione di Stone è disponibile X.

Chi non scarica un agente AI non è necessariamente al riparo dai suoi effetti sulla privacy. Può comunque comunicare con persone che ne usano uno. Oltre alla possibilità che un sistema AI invii messaggi per conto di un utente, gli esperti avvertono che gli agenti possono esporre informazioni appartenenti ad altre persone.

"Quando il tuo agente legge la tua casella email o i tuoi messaggi, sta anche leggendo ciò che i tuoi amici e familiari ti hanno inviato, anche se non vi hanno mai acconsentito esplicitamente", ha detto Rivera.

Diversi punti restano aperti: i controlli per Mac annunciati da Apple non sono ancora arrivati agli utenti, Meta ha riconosciuto l'errore su Marketplace senza ulteriori commenti, e Muse, i dots di OpenAI e Grok Bot sono tutti in competizione per l'adozione di massa.

Questa storia è stata originariamente pubblicata su Fortune.com.