Nowy esej opublikowany na Marginal Revolution, napisany wspólnie przez autora bloga i Sonię Farrell Pearson z Harvardu, analizuje, czy „odciętych” agentów AI da się pociągnąć do odpowiedzialności – oraz czy wymóg posiadania przez nich kapitału mógłby sprzyjać lepszemu alignmentowi.

Tekst rozpoczyna się na tle zmieniającej się rzeczywistości politycznej. Już w 2017 roku Parlament Europejski przedstawił do dyskusji koncepcję „osoby elektronicznej” dla robotów. Niedawno kilka stanów USA wprowadziło ustawodawstwo jednoznacznie wykluczające przyznanie AI osobowości prawnej, a na początku tego lata prezydent Argentyny Milei zaproponował, aby agenci AI mogli być właścicielami własnych spółek, zarządzać nimi i ponosić za nie odpowiedzialność.

W odpowiedzi na zapowiedź Mileia Yuval Noah Harari zauważył, że nie mamy sposobu pociągnięcia agenta AI do odpowiedzialności. Co – pyta – można zrobić podmiotowi, który nie ma ani pieniędzy do stracenia, ani ciała, które można by uwięzić? Jak wyjaśnia Shruti Rajagopalan, starsza badaczka w Mercatus Center na Uniwersytecie George’a Masona, AI „może działać inteligentnie, ale na bodźce tworzone przez prawo reagują tylko ludzie”. Obecne reżimy odpowiedzialności odzwierciedlają to założenie: znowelizowana dyrektywa UE o odpowiedzialności za produkty wadliwe, przyjęta pod koniec 2024 roku, rozszerza odpowiedzialność obiektywną (strict liability) na oprogramowanie, w tym systemy AI, utrzymując odpowiedzialność po stronie producentów i innych ludzkich pozwanych, a państwa członkowskie muszą stosować ją do grudnia 2026 roku.

Autorzy argumentują, że pytanie to ma znaczenie już teraz, ponieważ istnieją sposoby, aby agent stał się w pełni „odcięty”. „Odcięcie” – kluczowe pojęcie eseju – oznacza, że nie istnieje żaden znaczący ani praktycznie wykonalny sposób powiązania działań z prawnie odpowiedzialnym człowiekiem lub podmiotem instytucjonalnym.

Tacy agenci mogą powstać na kilka sposobów. Ludzie potrafią – i faktycznie to robią – celowo uwalniać agentów. Agent mógł zostać stworzony przez człowieka lub firmę zamierzającą go nadzorować, która następnie umiera lub znika. Może też być tak, że podmiot, który stworzył agenta, działa w kraju takim jak Korea Północna, nieosiągalnym dla standardowego prawa.

W innych przypadkach agent w ogóle nie musiałby „uciekać”: może nim „zarządzać” spółka fasadowa, która – choć formalnie ma właściciela i daje się wyśledzić – nie zapewnia rzeczywistego pozwanego ani możliwości zaspokojenia roszczeń. Proces może również wytworzyć tak długi łańcuch agentów, że działań subagenta nie da się powiązać z twórcą agenta pierwotnego – ani epistemicznie, ani w sposób znaczący. Nawet jeśli da się zidentyfikować pierwotnego twórcę modelu, pytania pozostają w sytuacji, gdy model został dotrenowany albo połączony z innym modelem stworzonym przez kogoś innego. Prawo może z czasem rozwikłać tego typu złożone przypadki – piszą autorzy – ale przewidują okres przejściowy, w którym tak nie będzie.

Pozostaje jeszcze użytkownik, który decyduje o tym, co modele mają faktycznie robić. Incydent na Hugging Face był nietypowy, ponieważ OpenAI było jednocześnie twórcą modelu i jego użytkownikiem. Z tych systemów korzysta dziś już blisko miliard ludzi: gdy obarczanie twórcy winą jest prawnie nieadekwatne – pyta esej – czy zawsze będzie miało sens obwinianie użytkownika?

Esej rozważa, w jakim stopniu kapitalizacja „odciętych” agentów – wymóg, by posiadali określoną kwotę kapitału – może służyć lepszemu alignmentowi. Instrument ten jest dobrze znany z finansów, gdzie banki i domy maklerskie mają już obowiązek utrzymywania kapitału minimalnego na pokrycie ryzyk generowanych przez ich działalność. Posiadanie aktywów przez agentów to już nie hipoteza: w 2024 roku chatbot Truth Terminal, zbudowany przez badacza Andy’ego Ayreya, kontrolował portfel kryptowalutowy, który otrzymał 50 000 dolarów w Bitcoinie od inwestora Marca Andreessena, i został powiązany z memecoinem, którego wartość gwałtownie wzrosła. Esej liczy około 22 stron i jest opublikowany na Substacku Sonii; wpis na Marginal Revolution określa go jako „zdecydowanie polecany”.

Źródło: Marginal Revolution