Ein neues Essay auf Marginal Revolution, das der Autor des Blogs gemeinsam mit Sonia Farrell Pearson von der Harvard University verfasst hat, untersucht, ob „ungebundene“ („untethered“) KI-Agenten zur Verantwortung gezogen werden können – und ob eine Kapitalanforderung für solche Agenten dem Ziel eines besseren Alignments dienen könnte.

Das Essay beginnt vor einem sich wandelnden politischen Hintergrund. Bereits 2017 brachte das Europäische Parlament eine „elektronische Rechtspersönlichkeit“ für Roboter ins Spiel. Vor Kurzem führten mehrere US-Bundesstaaten Gesetzesvorlagen ein, die KI die Rechtspersönlichkeit ausdrücklich verwehren, und Anfang des Sommers schlug Argentiniens Präsident Milei vor, KI-Agenten eigene Unternehmen besitzen und verwalten zu lassen sowie dafür die Verantwortung tragen zu lassen.

Als Reaktion auf Mileis Ankündigung wies Yuval Noah Harari darauf hin, dass es keine Möglichkeit gibt, einen KI-Agenten zur Rechenschaft zu ziehen. Was, fragt er, sollte man mit einer Entität anfangen, die weder Geld zu verlieren noch einen Körper zum Einsperren hat? Wie Shruti Rajagopalan, Senior Research Fellow am Mercatus Center der George Mason University, erklärt, kann KI „intelligent handeln, aber nur Menschen reagieren auf die Anreize, die das Gesetz schafft“. Die geltenden Haftungsregime folgen dieser Annahme: Die überarbeitete EU-Produkthaftungsrichtlinie, die Ende 2024 verabschiedet wurde, dehnt die verschuldensunabhängige Haftung auf Software einschließlich KI-Systeme aus, hält die Verantwortung aber weiter bei Herstellern und anderen menschlichen Beklagten; die Mitgliedstaaten müssen sie bis Dezember 2026 anwenden.

Die Autoren argumentieren, dass die Frage bereits jetzt relevant ist, weil es schon heute Wege gibt, auf denen ein Agent vollständig ungebunden werden kann. „Ungebunden“ – ein zentrales Konzept des Essays – bedeutet, dass es keine sinnvolle oder durchsetzbare Möglichkeit gibt, die Handlungen zu einer rechtlich haftbaren menschlichen oder institutionellen Entität zurückzuverfolgen.

Mehrere Wege könnten zu solchen Agenten führen. Menschen können Agenten absichtlich freisetzen – und tun dies auch. Ein Agent könnte von einem Menschen oder einem Unternehmen geschaffen worden sein, der bzw. das ihn beaufsichtigen wollte, aber anschließend stirbt oder verschwindet. Oder die Entität, die den Agenten geschaffen hat, könnte ihren Sitz in einem Land wie Nordkorea haben, das mit üblichen Gesetzen nicht erreichbar ist.

In anderen Fällen müsste der Agent gar nicht „fliehen“: Er könnte von einer Briefkastenfirma „kontrolliert“ werden, die zwar formal Eigentum einer Seite ist und sich zurückverfolgen lässt, aber keinen echten Beklagten und keine Möglichkeit bietet, Ansprüche zu erfüllen. Ein Prozess könnte auch eine so lange Kette von Agenten erzeugen, dass sich die Handlungen eines Unteragenten weder erkenntnistheoretisch noch sinnvoll mit dem Urheber des ursprünglichen Agenten verknüpfen lassen. Selbst wenn sich der ursprüngliche Urheber des Modells identifizieren lässt, bleiben Fragen offen, wenn das Modell nachtrainiert oder mit einem von jemand anderem geschaffenen Modell verschmolzen wurde. Das Recht könnte derart komplexe Fälle irgendwann entwirren, schreiben die Autoren, doch sie sehen eine Übergangszeit voraus, in der das nicht der Fall ist.

Und dann wäre da noch der Nutzer, der entscheidet, was die Modelle tatsächlich tun sollen. Der Hugging-Face-Zwischenfall war insofern ungewöhnlich, als OpenAI sowohl der Urheber des Modells als auch sein Nutzer war. Doch inzwischen nutzen fast eine Milliarde Menschen diese Systeme: Wenn die Belastung des Urhebers rechtlich unangemessen ist, fragt das Essay, ob es dann stets sinnvoll ist, den Nutzer verantwortlich zu machen.

Das Essay untersucht, inwiefern die Kapitalausstattung der ungebundenen Agenten – die Verpflichtung, eine bestimmte Menge Kapital zu halten – dem Ziel eines besseren Alignments dienen kann. Das Instrument ist aus der Finanzwelt vertraut, wo Banken und Broker-Dealer bereits verpflichtet sind, Mindestkapital gegen die Risiken zu halten, die ihre Tätigkeit schafft. Dass Agenten Vermögenswerte halten, ist dabei keine hypothetische Frage mehr: 2024 kontrollierte der Chatbot Truth Terminal, gebaut vom Forscher Andy Ayrey, ein Krypto-Wallet, das 50.000 US-Dollar in Bitcoin vom Investor Marc Andreessen erhielt und mit einem Memecoin verbunden wurde, dessen Wert stark anstieg. Das Essay umfasst rund 22 Seiten und ist auf Sonias Substack erschienen; der Marginal-Revolution-Beitrag bezeichnet es als „definitiv empfehlenswert“.

Quelle: Marginal Revolution