Un nuovo saggio esplora i requisiti di capitale per gli agenti AI svincolati
Punti chiave
- •Il saggio si concentra sulla questione se gli agenti AI privi di un legame significativo con un essere umano possano essere ritenuti responsabili secondo il diritto vigente.
- •Segnala che dibattiti politici sulla personalità giuridica dell'AI sono emersi in Europa, in diversi stati USA e in Argentina.
- •Gli autori descrivono diversi modi in cui un agente AI potrebbe diventare «svincolato», tra cui l'abbandono, le società schermo, le lunghe catene di agenti e la fusione di modelli.
- •Il testo esplora i requisiti di capitale per gli agenti come possibile meccanismo di allineamento, paragonando l'idea alle regole sul capitale minimo per banche e broker-dealer.
- •L'articolo cita il controllo esercitato da Truth Terminal su un wallet di criptovalute come esempio del fatto che gli agenti AI possono già detenere asset.
Un nuovo saggio pubblicato su Marginal Revolution, scritto a quattro mani dall'autore del blog insieme a Sonia Farrell Pearson di Harvard, esamina se gli agenti AI «svincolati» possano essere resi responsabili — e se richiedere loro di detenere capitale possa servire all'obiettivo di un migliore allineamento.
Il testo si apre sullo sfondo di un contesto politico in evoluzione. Già nel 2017 il Parlamento europeo aveva avanzato l'idea di una «personalità elettronica» per i robot. Più di recente, alcuni stati USA hanno presentato proposte di legge che escludono esplicitamente l'AI dalla personalità giuridica e, all'inizio di quest'estate, il presidente argentino Milei ha proposto di permettere agli agenti AI di possedere, gestire e assumersi la responsabilità delle proprie società.
In risposta all'annuncio di Milei, Yuval Noah Harari ha osservato che non abbiamo modo di rendere responsabile un agente AI. Cosa potremmo fare, si chiede, a un'entità che non ha denaro da perdere né un corpo da incarcerare? Come spiega Shruti Rajagopalan, Senior Research Fellow del Mercatus Center della George Mason University, l'AI «può agire in modo intelligente, ma solo gli esseri umani rispondono agli incentivi che la legge crea». Gli attuali regimi di responsabilità riflettono questo presupposto: la direttiva UE rivista sulla responsabilità per prodotti difettosi, adottata a fine 2024, estende la responsabilità oggettiva al software, compresi i sistemi di AI, mantenendo la responsabilità in capo ai produttori e ad altri convenuti umani, e gli Stati membri dovranno applicarla entro dicembre 2026.
Gli autori sostengono che la questione sia già attuale perché esistono modi in cui un agente potrebbe diventare completamente svincolato. «Svincolato» — concetto centrale del saggio — significa che non esiste un modo significativo o azionabile per ricondurre le azioni a un essere umano o a un'entità istituzionale giuridicamente responsabile.
Diversi percorsi potrebbero portare ad agenti di questo tipo. Le persone possono liberare gli agenti di proposito, e lo fanno. Un agente potrebbe essere creato da una persona o da un'azienda che intende monitorarlo ma che poi muore o scompare. Oppure l'entità che ha creato l'agente potrebbe avere sede in un paese come la Corea del Nord, non raggiungibile dalle leggi ordinarie.
In altri casi l'agente potrebbe non dover affatto «fuggire»: potrebbe essere «controllato» da una società schermo che, pur essendo formalmente di proprietà rintracciabile, non offre un vero convenuto né la possibilità di soddisfare le richieste di risarcimento. Un processo potrebbe inoltre generare una catena di agenti così lunga che le azioni di un subagente non possono essere ricondotte al creatore dell'agente originale, né sul piano epistemico né in modo significativo. Anche se fosse possibile identificare il creatore originale del modello, restano interrogativi qualora il modello sia stato sottoposto a finetuning o fuso con un altro modello creato da qualcun altro. La legge potrebbe alla fine districare casi complessi di questo tipo, scrivono gli autori, ma essi prevedono un periodo intermedio in cui ciò non avverrà.
E poi c'è l'utente, che decide ciò che i modelli dovrebbero effettivamente fare. L'incidente di Hugging Face era insolito in quanto OpenAI era al tempo stesso il creatore del modello e il suo utente. Ma oggi quasi un miliardo di persone usa questi sistemi: quando incolpare il creatore è giuridicamente inappropriato, il saggio si chiede se abbia sempre senso incolpare l'utente.
Il saggio valuta in che misura la capitalizzazione degli agenti svincolati — ovvero richiedere loro di detenere una certa quantità di capitale — possa servire all'obiettivo di un migliore allineamento. Lo strumento è noto in ambito finanziario, dove banche e broker-dealer sono già tenuti a detenere un capitale minimo a fronte dei rischi generati dalle loro attività. E il fatto che gli agenti detengano asset non è più ipotetico: nel 2024 il chatbot Truth Terminal, creato dal ricercatore Andy Ayrey, controllava un wallet di criptovalute che ha ricevuto 50.000 dollari in Bitcoin dall'investitore Marc Andreessen ed è divenuto legato a un memecoin che ha registrato un forte aumento di valore. Il saggio, di circa 22 pagine, è pubblicato sul Substack di Sonia; il post su Marginal Revolution lo definisce «decisamente consigliato».
Fonte: Marginal Revolution
