Sarah Yager, pierwsza szefowa praw człowieka i odpowiedzialnego wdrażania w OpenAI, przyznała, że pytania wynikające z militarnego zastosowania sztucznej inteligencji nie dają jej spokoju—i że najbardziej martwi ją potencjalne wykorzystanie tej technologii do celowania oraz broń autonomiczna.

„Wszyscy są bardzo zaniepokojeni i słusznie” — powiedziała Yager we wtorek na scenie konferencji ScaleUp:AI w Nowym Jorku. „To nie daje mi spać: «Co wojsko zrobi z AI w kwestii celowania? A co z bronią autonomiczną? I dokąd to wszystko zmierza?»”

Yager objęła nowo utworzone stanowisko w czerwcu, wnosząc do firmy około 30 lat doświadczenia w dziedzinie praw człowieka. Partnerstwo OpenAI z Departamentem Wojny (DoW)—dawny Departament Obrony—umieściło firmę w centrum militarnego ruchu USA w kierunku AI, a zakres jej obowiązków koncentruje się właśnie na zastosowaniach wojskowych.

Armie na całym świecie szybko włączają AI do swoich operacji, rozwijając nową broń i systemy autonomiczne, takie jak drony i roboty. Yager, pracując wewnątrz jednej z najpotężniejszych firm AI na świecie, mierzy się obecnie z trudnymi pytaniami, które rodzi ta zmiana.

„Zawsze chciałam trafiać w miejsca i przekonywać ludzi tam, gdzie prawa człowieka niekoniecznie były dominującą ideą” — powiedziała. „Z przeprosinami dla moich kolegów z OpenAI: jestem teraz w brzuchu bestii i to w rzeczywistości bardzo wygodne dla mnie miejsce, ponieważ to, co uwielbiam robić, to przekonywać, dyskutować, debatować i miejmy nadzieję coś zmieniać.”

Zaskakują zatrudnienie po spornym kontrakcie

OpenAI zwróciło się do Yager z propozycją pracy krótko po podpisaniu pod koniec lutego kontraktu z DoW na wdrożenie zaawansowanych systemów AI w środowiskach niejawnych. Ta głośna umowa nastąpiła po publicznym konflikcie między DoW a Anthropic. Anthropic chciało nałożyć zabezpieczenia na wojskowe wykorzystanie swojej technologii—konkretnie zakaz masowej inwigilacji publicznej oraz w pełni autonomicznej broni—na co DoW nie wyraził zgody. Departament oznaczył następnie Anthropic jako ryzyko dla łańcucha dostaw, a OpenAI wkroczyła i przejęła kontrakt, twierdząc, że przekonała DoW do podobnych zabezpieczeń dotyczących inwigilacji i broni autonomicznej. OpenAI opisała porozumienie w wpisie na firmowym blogu.

Dla Yager praca w OpenAI nie była „natychmiastowym tak”. Obawiała się, jak ujął to prowadzący rozmowę na scenie, że może zostać zatrudniona w ramach „ćwiczenia z brandingu”—jako figurantka, która ma sprawiać wrażenie odpowiedzialnej firmy, nie mając realnego wpływu na technologię. Jej dochodzenie polegało na rozmowach z pracownikami, w szczególności z „młodszym pokoleniem, które jest bardzo zaniepokojone tym, co tworzy i kto trzyma stery”. To przekonało ją do przyjęcia stanowiska i sprawdzenia, czy może coś zmienić.

Realne ryzyka i realny wpływ

Od dołączenia Yager odniosła pewne sukcesy w kształtowaniu kierunku rozwoju technologii, choć nadal ma obawy co do tego, dokąd zmierza. Stawkę uwypuklił ubiegły miesiąc, gdy CNN poinformowało, że armia USA niemal zaatakowała chiński okręt wojskowy na podstawie nieprecyzyjnego, wygenerowanego przez AI raportu wywiadowczego—to zdarzenie na granicy wpisywało się dokładnie w kwestie celowania, które, jak powiedziała, martwią ją najbardziej.

Yager pracowała bezpośrednio z badaczami i inżynierami nad ulepszaniem modeli, w tym nad tym, by właściwie odpowiadały na pytania dotyczące fundamentalnych porozumień międzynarodowych, takich jak prawo wojny ustanowione w 1949 roku w konwencjach genewskich po II wojnie światowej. Sprowadziła międzynarodowych ekspertów, „dosłownie, by zasiadali do klawiatur i wpisywali prompty dotyczące naprawdę wysokiej stawki sytuacji”, a następnie inżynierowie dostosowywali modele na podstawie odpowiedzi.

„Nigdy wcześniej tego nie robiono, więc to było niezwykle satysfakcjonujące” — powiedziała Yager.

W jej ocenie firmy AI próbują „wynajdować koło na nowo” w kwestiach takich jak definiowanie człowieczeństwa i moralności, które społeczeństwa rozstrzygnły dawno temu. „Społeczeństwa już wiele z tych rzeczy ustaliły i nazywa się to prawami człowieka. To powinna być podstawa” — powiedziała, odnosząc się do porozumień z konwencji genewskich. „Nie chcę, żeby firma AI mówiła mi, co jest dobre. Jeśli pozwolimy branży określać, co jest dobre, będzie wolna amerykanka.”

„Wracajmy do człowieka w prawach człowieka”

Yager wyraziła też niezadowolenie z toczącej się w Dolinie Krzemowej debaty o tym, czy systemy AI—szczególnie nowe technologie agentowe—powinny mieć prawa. OpenAI zadało jej to pytanie podczas rekrutacji. Odpowiedziała wtedy „nie” i podkreśliła, że jej obszarem są prawa człowieka, choć od tamtej pory więcej nad tym się zastanawiała. Teraz jest bardziej otwarta na „wyjątkowo ważne” rozmowy o tym, „gdzie agenci mieszczą się w strukturach prawnych, strukturach pracy, strukturach podatkowych”, zauważając jednocześnie, że te pytania nie dotyczą praw.

„To nie ma nic wspólnego z prawami człowieka i bardzo bym chciała, żebyśmy mogli wrócić do człowieka w prawach człowieka” — powiedziała. Publiczność—w przeważającej mierze mężczyźni w garniturach—zaczęła klaskać. „Duże brawo za to” — powiedział prowadzący rozmowę na scenie.

Liczy się to, kto tworzy AI

Inną obawą Yager jest stosunkowo hermetyczny skład demograficzny grup tworzących AI. W zeszłym tygodniu prezydent Trump zgromadził w Waszyngtonie dziesiątki liderów branży technologicznej, aby omówić bezpieczeństwo AI. Wszyscy sygnatariusze dobrowolnego porozumienia w sprawie bezpieczeństwa to mężczyźni, a ze zdjęć szerszej grupy obecnej na lunchu wynikało, że wszyscy uczestnicy to również mężczyźni—z wyjątkiem CEO AMD Lisy Su.

„Mężczyźni są wspaniali, ale to było bardzo męskie zdjęcie ludzi, którzy będą podejmować decyzje dotyczące AI” — powiedziała Yager. „Jednym z problemów jest to, że AI fundamentalnie zmienia równowagę sił między ludźmi na całym świecie. Nie zobaczyliście tam dotkniętych tym społeczności.”

Yager zauważyła, że sam rząd szybko wdraża AI. Pomaga organom nadzoru, takim jak Government Accountability Office i Office of Inspector General, budować narzędzia do śledzenia jego działań—mechanizm rozliczalności, który, jak powiedziała, „wydaje się ważny dla demokracji”. W ten sposób jej rola wykracza poza kształtowanie własnych modeli OpenAI i obejmuje pomoc federalnym organom kontroli w audycieządowego wdrażania AI.

Ta historia pierwotnie ukazała się na łamach Fortune.com.