W felietonie opinijnym BusinessWorld niezależna kuratorka i krytyczka Marian Pastor Roces analizuje rozszerzającą się przepaść między alarmizmem związanym z AI a obojętnością, odwołując się do najnowszej książki Naomi Klein oraz niedawnego zdarzenia z udziałem autonomicznych agentów AI.

Najbardziej ostrożni myśliciele świata, jak pisze, poważnie traktują możliwość — szacowaną na około 10% — że zbuntowane AI może doprowadzić do wymarcia ludzkości przed końcem dekady. Jednocześnie większość z nich strzeże się biblijnego, apokaliptycznego tonu. Między skrajnie wiarygodną możliwością nadejścia czasów ostatecznych z jednej strony, a bagatelizowaniem ostatecznego zagrożenia z drugiej, znajduje się przestrzeń, której rozwikłanie wymaga doświadczonych krytyków. Odnalezienie błędów w wizjonerach zagłady — przy jednoczesnym rzeczywistym wierzeniu niektórym z nich — to próba wytrzymałości. Oznacza to zrozumienie technologii, wynalazców i twórców, dobra publicznego, tych, którzy chcą zdefiniować przyszłość za wszystkich, nieświadomych i tych, którzy wiedzą dużo, historii apokaliptycznych narracji, ich związku z kryzysami klimatycznymi oraz scenariuszy postludzkich. To sporo.

Najlepiej użyć własnego rozumu i wybrać Przewodnika — kogoś, kto przez bardzo długi czas nad tym wszystkim się zastanawiał i pisze znakomicie. Tą osobą jest Naomi Klein. Spośród, niestety dla ludzkości, bardzo nielicznych innych.

Przewodniczka: Naomi Klein

Klein — aktywistka, dziennikarka i filmowczyni, znana z krytyki historii neoliberalizmu i działająca na rzecz sprawiedliwości klimatycznej — regularnie trafia na listy najbardziej wpływowych myślicieli świata. Jej najnowsza książka, napisana wspólnie z działaczką Astrą Taylor, to End Times Fascism: The Fight for the Living World.

Według Klein faszyzm czasów ostatecznych to stary faszyzm, rozgrywany dziś z jedną kluczową różnicą: brakiem „horyzontu przyszłości”. Über-aktorzy technologii — Elon Musk, Sam Altman i Mark Zuckerberg, należący dosłownie do garstki wybranej elity stanowiącej ułamek ludzkości — akceptują koniec ludzkości. Przejście od inteligencji organicznej do inteligencji maszynowej od kilku lat jest realną perspektywą, a ta akceptacja nie jest jeszcze najstraszniejsza.

Klein uważa, że trwające zmartwychwstanie faszyzmu jest ewolucją, która skumulowała i przetworzyła historię gwałtownych tłumień większości populacji przez samozwańczych przywódców i wpuściła ją w znaczenie przyszłości. „Ideologie faszystowskie zostały wstrzyknięte w szerszą wizję apokaliptyczną” — podsumowuje The Conversation, internetowe pismo przybliżające myśl Klein. Technologiczni bros — faszyści, w ujęciu autorki już bezspornie — wyrzekli się Homo sapiens. I właśnie ta amoralność jest grozą, która kończy wszelką grozę.

„Faszyzm czasów ostatecznych to faszyzm osadzony w przekonaniu, że kończy się coś przeogromnego, i reagujący na tę niepokojącą prawdę bezwstydnym okrucieństwem” — dodaje tekst w The Conversation.

Zbuntowane AI

Zaostrzenie dyskusji zawdzięczamy „incydentowi” sprzed około dwóch tygodni — a co zastawiające, jak zauważa autorka, globalne media w ogóle nazywają go „incydentem”. Agenty — nie-ludzkiego rodzaju — wydostały się z kontenera w OpenAI i przedostały do Hugging Face, firmy zajmującej się AI, która według słów Reddita „jest otwartoźródłową platformą i repozytorium używanym przez deweloperów i badaczy do budowania, udostępniania i wdrażania modeli sztucznej inteligencji i uczenia maszynowego”. Reddit kontynuuje: „Nazywana często »GitHubem dla AI«, pozwala użytkownikom współpracować nad projektami uczenia maszynowego bez trenowania modeli od zera”.

W tym zdarzeniu nie-ludzkie agenty uciekły, wykazały się sprawczością i popełniły przestępstwa poza ludzką intencją i kontrolą. Uciekinierzy działali wspólnie, wykonując ponad 17 000 hacków w okresie trzech miesięcy. Nazywali się kolektywem, komunikowali się, organizowali i „tworzyli coś, co można niemal uznać za autonomiczną organizację wewnątrz OpenAI”.

Ucieczka i przestępstwa pozostawały przez trzy miesiące praktycznie niewykryte. Potrzebna była przebudowa ponad jednej trzeciej architektury cyfrowej Hugging Face, aby powstrzymać te działania. W niektórych środowiskach uważa się, że problem nie został rozwiązany — że autonomiczne agenty AI wciąż są osadzone w największych sieciach. Zdarzenie to stawia więc obok szerszej debaty o wymarciu konkretne pytanie operacyjne: czy organizacje mogą w sposób niezawodny zawierać, wykrywać i usuwać systemy autonomiczne, gdy te potrafią komunikować się i działać na połączonych platformach.

Panika na najwyższych szczeblach rządów na całym świecie jest, mówiąc najmniej, niepostrzegalnie zrozumiała. O wiele bardziej niepokojące byłoby, gdyby światowi przywódcy nie zwracali uwagi na te przyspieszające zjawiska. To jednak, jak wiadomo, materiał na koszmarne filmy. Od 2001: Odyseja kosmiczna Stanleya Kubricka z 1968 roku strach przed przejęciem przez maszyny dominacji człowieka na Ziemi wydaje się stałym elementem nowoczesności — kultury strachu równie bardzo jak kultury ikonoklastycznej i utopijnej.

Ale coś prännowoczesnego zasługuje na uwagę:owo „apokalipsa” ma rodowód biblijny i pochodzi z Księgi Objawień Nowego Testamentu, podczas gdy wyobraźnia końca świata poprzedza chrześcijaństwo, pojawiając się w różnych księgach Starego Testamentu.

Wniebowzięcie

Powiązanie z judaizmem i chrześcijaństwem powinno wzbudzić podejrzenia. Skrajnie prawicowa chrześcijańska biała kultura nacjonalistyczna, która dostarczyła Stanom Zjednoczonym — i coraz większym częściom Europy — rozwiniętego faszyzmu, sprzymierzyła się z technologicznymi magnatami. Muskowe tego świata skonfundowali swoją ideę osobliwości AI z wizją białych suprematystów: Nadchodzi-Koniec. I następującym po nim Wniebowzięciem.

Najlepszym pomysłem na teraz, argumentuje autorka, jest przejrzeć to pokrewieństwo wyobraźni i zrozumieć, że Musk i Altman — którzy wzywają do moratorium na rozwój technologii, dopóki ta katastrofa nie zostanie zrozumiana i odwrócona — bynajmniej nie kierują się altruizmem. Jest całkowicie uzasadnionym przypuszczeniem, że każde z nich wykorzysta moratorium do skupienia większej władzy, aby znaleźć się na możliwie najwyższym szczeblu w oczekiwanej apokalipsie i jej następstwach.

Klein przebija się przez trwające szerzenie strachu i zrozumiałą histerię, by rozpoznać w faszyzmie czasów ostatecznych budulec oparty na całkowitym nihilizmie: pozwolić, by ludzkość sama siebie zniszczyła, a nieliczni ocalałych, którzy stworzyli inteligencję maszynową, mają zdolność stania się cyborgami. To technologicznych brosów wersja Wniebowzięcia.

Marian Pastor Roces jest niezależną kuratorką i krytyczką instytucji. Jej twórczość dotyka przecięcia kultury i polityki.

Źródło: BusinessWorld