Di Joseph Crawford e Michael Cowling

Dal novembre 2022, l'intelligenza artificiale generativa (AI) ha riscritto miliardi di e-mail, compiti degli studenti, report e messaggi di rottura. Accanto a questi usi quotidiani, si sono moltiplicati i compagni AI. Gli utenti possono progettare e vestire — o svestire — il proprio amico AI, spesso a pagamento. Questi chatbot sociali offrono “happy conversations” e l'apparenza di una relazione perfetta, ma al prezzo della vulnerabilità reciproca e del genuino senso di appartenenza che derivano dai legami con altri esseri umani.

I sostenitori sostengono che i chatbot possano aiutare chi vive una disconnessione sociale perché sono sempre disponibili e non giudicanti. Esistono alcune evidenze che possano attenuare i sintomi di solitudine, disconnessione cronica e appartenenza frustrata. La eSafety Commissioner australiana lo riconosce, affermando: “AI companions are always available — which can be appealing for those young people who struggle to build face-to-face relationships.”

Ma i rischi di sostituire le relazioni umane con i chatbot sono solo all'inizio della comprensione. Uno studio che abbiamo condotto nel 2023 ha rilevato che gli studenti universitari che usavano i primi chatbot per supporto accademico hanno sperimentato conseguenze indesiderate, tra cui la solitudine. Al momento, i rischi dei chatbot sociali — compresa la dipendenza, lo spiazzamento delle amicizie umane, il ritiro sociale e la formazione di relazioni irrealistiche — sembrano superare i benefici.

Nelle ultime settimane, la Cina ha introdotto nuove regole per i compagni AI e i chatbot, o “anthropomorphic interactive services”, come sono definiti nella legislazione. Oltre a richiedere che i chatbot proteggano i segreti di Stato, le regole limitano l'uso emotivo di questi strumenti e impongono che seguano standard sociali e morali.

Si tratta di alcuni dei controlli più severi sull'uso sociale dell'AI introdotti in qualsiasi parte del mondo. Quindi, cosa possiamo imparare?

Danni materiali derivanti dall'uso di companion AI si verificano, anche in Cina. Una diciottenne ha speso 7.000 yuan (A$1,400) in gioielli personalizzati per il suo fidanzato AI durante i loro quattro mesi di “dating”. La famiglia di un'84enne sola nella provincia cinese di Hubei ha scoperto che si era infatuata di un personaggio AI, trascorrendo fino a 10 ore al giorno a guardare video con lui e con altri personaggi, spendendo migliaia di yuan per il servizio e persino scrivendogli lettere d'amore a mano.

Le nuove regole cinesi stabiliscono disposizioni esplicite su come si aspettano che i chatbot-compagni interagiscano con gli esseri umani. Le misure prevedono che gli sviluppatori di social AI garantiscano che i contenuti non:

• minaccino la sicurezza nazionale o l'onore nazionale

• violino i valori fondamentali del socialismo

• incoraggino autolesionismo o suicidio

• assecondino eccessivamente la dipendenza emotiva o l'addiction

• forniscano “partner” o “parenti” virtuali ai minori

• forniscano contenuti non idonei ai minori.

Inoltre, gli utenti che sembrano eccessivamente dipendenti dal servizio devono ricevere avvisi ben visibili che stanno parlando con un chatbot. E le aziende di AI sono tenute a intervenire se gli utenti sembrano trovarsi in uno stato di estrema sofferenza.

Il rischio di una “spirale della solitudine”

Come abbiamo dimostrato, esistono preoccupazioni — e gli studi finora lo suggeriscono — che non sia salutare per i giovani fare affidamento esclusivo sull'AI come amico fidato o terapeuta.

Le persone sole che sperimentano ansia sociale possono sviluppare modalità problematiche di utilizzo dell'AI conversazionale nel tentativo di ridurre la solitudine e la ruminazione negativa. Proponiamo che questa dipendenza possa generare una “spirale della solitudine” indotta dall'AI. Quando gli individui si sentono soli, diventano più sensibili alla minaccia sociale e sperimentano una regolazione emotiva più difficile.

Possono quindi rivolgersi a un amico AI a basso rischio per avere supporto, invece che a esseri umani qualificati o amichevoli. Tuttavia, questo spesso non risolve il problema iniziale della solitudine, perché i chatbot possono in realtà peggiorarlo.

Le restrizioni introdotte dalla Cina per i compagni AI possono aiutare a spezzare questo ciclo e a dare priorità alla connessione umana. La questione diventa un problema di bilancio cognitivo: sarebbe più soddisfacente installare un'app companion AI, o trovare il tempo per incontrare un amico?

Lezioni per l'Australia

Solitudine e scarso senso di appartenenza restano sfide importanti in Australia, con almeno una persona su sei che sperimenta solitudine, e alcune evidenze suggeriscono tassi più elevati.

Mentre la Cina ha represso i compagni AI, l'Australia ha guidato gli sforzi per regolamentare l'uso dei social media da parte dei giovani. eSafety ha anche sviluppato codici per limitare online i contenuti legati all'età, inclusi pornografia, violenza ad alto impatto, autolesionismo, suicidio e disturbi alimentari. Tuttavia, queste misure non affrontano i danni sociali dei compagni AI, come la dipendenza emotiva o lo spiazzamento della connessione umana.

Anche il Primo Ministro Anthony Albanese non ha menzionato i danni sociali dei chatbot AI nel suo importante discorso sull'AI della scorsa settimana.

Proponiamo che le tutele australiane sui materiali soggetti a restrizioni per età debbano essere estese a coprire i danni sociali involontari derivanti dalle conversazioni con AI sociali, analitiche e funzionali. Il governo australiano deve esaminare come questi compagni virtuali interagiscono con gli australiani e prepararsi a mitigare i danni sociali involontari prima che queste connessioni sociali sintetiche diventino diffuse e normalizzate.

L'Australia deve dare priorità allo sviluppo della connessione sociale — nei luoghi di lavoro, nelle strategie di produttività, nei programmi di istruzione e nella progettazione delle nostre comunità.

Una stretta autoritaria sui chatbot potrebbe non essere alla portata di una nazione democratica. Ma possiamo — e dobbiamo — dare priorità allo sviluppo delle capacità di connessione umana per resistere a una dipendenza malsana dall'AI.

E l'Australia dovrebbe sfruttare le tutele normative per mitigare i danni sociali, proseguendo il lavoro che eSafety sta già svolgendo sui social media.

THE CONVERSATION VIA REUTERS CONNECT

Joseph Crawford è senior lecturer in Management presso l'Università della Tasmania. Michael Cowling è professor e director, Hub for Apple Platform Innovation (HAPI), School of Computing Technologies, presso la RMIT University.