Een nieuw essay op Marginal Revolution, mede geschreven door de auteur van de blog met Sonia Farrell Pearson van Harvard, onderzoekt of “losgekoppelde” AI-agenten aanspreekbaar gemaakt kunnen worden — en of de eis dat zij kapitaal aanhouden kan bijdragen aan een betere alignment.

Het stuk opent tegen een veranderende beleidsachtergrond. Al in 2017 lanceerde het Europees Parlement het idee van “elektronische persoonlijkheid” voor robots. Recenter hebben een handvol Amerikaanse staten wetgeving ingediend die AI expliciet uitsluit van rechtspersoonlijkheid, en begin deze zomer stelde president Milei van Argentinië voor AI-agenten hun eigen vennootschappen te laten bezitten, beheren en er de verantwoordelijkheid voor te laten dragen.

Naar aanleiding van Mileis aankondiging wees Yuval Noah Harari erop dat wij geen enkele mogelijkheid hebben om een AI-agent verantwoordelijk te stellen. Wat, vraagt hij, kunnen wij doen met een entiteit die noch geld heeft om te verliezen, noch een lichaam om op te sluiten? Zoals Shruti Rajagopalan, Senior Research Fellow bij het Mercatus Center van George Mason, uitlegt: AI “kan intelligent handelen, maar alleen mensen reageren op de prikkels die het recht creërt”. De huidige aansprakelijkheidsregimes weerspiegelen die veronderstelling: de herziene Product Liability Directive van de EU, eind 2024 aangenomen, breidt strenge aansprakelijkheid uit naar software, waaronder AI-systemen, terwijl de verantwoordelijkheid bij fabrikanten en andere menselijke verweerders blijft liggen; lidstaten moeten de richtlijn uiterlijk december 2026 toepassen.

De auteuren betogen dat deze vraag nu aan de orde is omdat er al manieren bestaan waarop een agent volledig losgekoppeld kan raken. “Losgekoppeld” — een kernbegrip in het essay — betekent dat er geen betekenisvolle of uitvoerbare manier is om de handelingen terug te voeren op een juridisch aanspreekbare menselijke of institutionele entiteit.

Meerdere routes kunnen tot zulke agenten leiden. Mensen kunnen agenten opzettelijk vrijlaten — en doen dat ook. Een agent kan zijn gecreëerd door een mens of bedrijf dat van plan was hem te monitoren, maar vervolgens overlijdt of verdwijnt. Of de entiteit die de agent heeft gecreëerd, is gevestigd in een land als Noord-Korea, buiten het bereik van de gebruikelijke wetten.

In andere gevallen hoeft de agent helemaal niet te “ontsnappen”: hij kan worden “gecontroleerd” door een shellvennootschap die, hoewel formeel eigendom van iemand en traceerbaar, geen echte verweerder biedt en geen mogelijkheid om claims te voldoen. Een proces kan ook een zodanig lange keten van agenten voortbrengen dat de handelingen van een subagent niet aan de maker van de oorspronkelijke agent kunnen worden gekoppeld, noch epistemisch, noch betekenisvol. Zelfs als de oorspronkelijke maker van het model kan worden geïdentificeerd, blijven er vragen bestaan wanneer het model is gefinetuned of samengevoegd met een ander model dat door iemand anders is gemaakt. Het recht kan dit soort complexe gevallen uiteindelijk wellicht ontwarren, schrijven de auteuren, maar zij voorzien een tussenperiode waarin dat niet zo is.

En dan is er nog de gebruiker, die keuzes maakt over wat de modellen feitelijk moeten doen. Het Hugging Face-incident was ongewoon in die zin dat OpenAI zowel de maker van het model als de gebruiker ervan was. Maar inmiddels gebruiken bijna een miljard mensen deze systemen: wanneer het juridisch ongepast is de maker de schuld te geven, vraagt het essay zich af of het altijd zinvol is de gebruiker de schuld te geven.

Het essay overweegt in hoeverre het kapitaliseren van de losgekoppelde agenten — hen verplichten een bepaalde hoeveelheid kapitaal aan te houden — kan dienen tot een betere alignment. Het instrument is bekend uit de financiële wereld, waar banken en broker-dealers al verplicht zijn minimaalkapitaal aan te houden tegen de risico’s die hun activiteiten met zich meebrengen. En dat agenten bezittingen aanhouden is niet langer hypothetisch: in 2024 beheerde de chatbot Truth Terminal, gebouwd door onderzoeker Andy Ayrey, een cryptowallet die $50.000 aan Bitcoin ontving van investeerder Marc Andreessen en verbonden raakte aan een memecoin die sterk in waarde steeg. Het essay beslaat ongeveer 22 pagina’s en is gepubliceerd op Sonia’s Substack; de post op Marginal Revolution noemt het “zeker aan te raden”.

Bron: Marginal Revolution