W miarę jak wyścig o budowę coraz potężniejszej sztucznej inteligencji przyspiesza, część wiodących firm branży zmaga się z pytaniem, które sięga znacznie dalej niż era komputerów: jak nauczyć maszynę odróżniania dobra od zła. Coraz częściej ich odpowiedzią jest religia.

"To nie są pytania, na które laboratorium może odpowiedzieć" — powiedział współzałożyciel Anthropic Chris Olah wcześniej tego roku podczas prezentacji w Watykanie encykliki papieża Leona XIV o sztucznej inteligencji. "To pytania, które tradycje takie jak Wasza noszą od tysiącleci."

Jednak w obliczu tego szeroko komentowanego zwrotu ku wierze niewiele uwagi poświęcono temu, co dokładnie firmy technologiczne myślą o religii — a co być może ważniejsze, czego od niej oczekują.

Podczas gdy szefowie firm biją na alarm w sprawie destrukcyjnego potencjału sztucznej inteligencji i debatują nad potrzebą tworzenia modeli moralnie dobrych, coraz częściej szukają opinii filozofów i liderów religijnych. Konsultacje te wpisują się w szerszy projekt techniczny, który branża nazywa alignment — kształtowanie zachowania modeli tak, aby odzwierciedlały ludzkie wartości — i który coraz bardziej sięga po dyscypliny wykraczające daleko poza informatykę. Filozofia kierowników firm jest mniej więcej następująca: religia może pomóc uczynić sztuczną inteligencję moralnie dobrą w chwili, gdy obawy dotyczące tej technologii — uzasadnione i nieuzasadnione — przenikają przezę. Ponieważ firmy te nie są związane z żadną konkretną wiarą, cel często jest bardzo szeroki — agregat idei moralnych, które mogą informować ich modele.

"Myślę, że ChatGPT powinien odzwierciedlać tę ważoną średnią, czy co tam, moralnych poglądów ludzkości" — powiedział w zeszłym roku CEO OpenAI Sam Altman.

Ale eksperci i wyznawcy alike ostrzegają, że ta idea nie uwzględnia tego, jak różne tradycje i światopoglądy mogą sobie przeczyć. Krótko mówiąc — jak twierdzą — tak właśnie nie działa religia. Stawka ma charakter praktyczny, a nie tylko filozoficzny: wszystko, co model przyswoi w zakresie ram moralnych, ostatecznie pojawia się w odpowiedziach, które daje użytkownikom — również w kontekstach edukacyjnych, takich jak dostęp do chatbota do nauki czytania i pisania, dyskutowanych podczas samych konsultacji.

Religia jako księga reguł

Od dziesięcioleci uczeni sprzeciwiają się powszechnemu poglądowi, że religia to zbiór reguł lub zasad, który można odciąć od "chaotycznych, praktycznych, ad hoc" sposobów życia wyznawców — argumentuje Webb Keane, antropolog z University of Michigan. Idea, że religię można oddzielić od kultury i polityki, pozostaje zakorzeniona, mimo że w wielu aspektach przenika jedne i drugie. Niektórzy obawiają się, że firmy AI, prosząc różnych liderów religijnych o odpowiedzi na pytania etyczne, będą dalej utrwalać teorię religii, która nie dostrzega znaczenia doktryny, rytuału i relacji.

Sedno problemu, argumentuje Keane, jest takie: jeśli założymy, że religia jako całość oferuje wyraźny zestaw wyciągalnych zasad moralnych, wykorzystanie jej do trenowania AI grozi faworyzowaniem niektórych tradycji i zniekształcaniem innych — zwłaszcza religii, które nie postrzegają siebie przede wszystkim jako systemu etyki.

"Istnieje bardzo konwencjonalny sposób myślenia o religii jako o księdze reguł" — powiedział. "Jest to z pewnością bardzo związane z religiami opartymi na piśmie, a religie oparte na piśmie ostatecznie okazują się religiami abrahamowymi."

Wewnątrz spotkań w Anthropic

Nie znaczy to, że konsultacjom brakowało zróżnicowanej reprezentacji, ani że zaangażowanie w religię było bezrefleksyjne z perspektywy uczestników, takich jak Meghan Sullivan, filozof religii kierująca inicjatywą poświęconą etyce i sztucznej inteligencji na University of Notre Dame.

Anthropic nieliczył tradycji, z którymi się konsultował, ale firma stwierdziła w majowym poście na blogu, że spotkała się z "ucznymi, duchownymi, filozofami i etykami z ponad 15 grup religijnych i międzykulturowych" — puli, którą zamierza poszerzyć w przyszłości.

Wcześniej tego roku Sullivan pojechała do Anthropic na jedno z tych spotkań, na którym obecni byli chrześcijanie z różnych wyznań. W porównaniu z rozmowami, jakie miała z innymi firmami technologicznymi, zrobiło na niej wrażenie rygorystyczne podejście Anthropic do religii. Firma jest powszechnie postrzegana jako ta, która najpoważniej traktuje etykę i bezpieczeństwo.

"Kultura wewnątrz firmy jest podobna do tej na dobrym kampusie akademickim w tym sensie, że masz do czynienia ze zbiorowiskiem osób bardzo ciekawych intelektualnie" — powiedziała. "Te spotkania są dość nerdowskie — nie wiem, czy to najlepsze określenie — ale w dobrym sensie."

Spotkanie było podzielone na dwie części, jak powiedziała Sullivan. Najpierw firma wyjaśniła uczestnikom działanie swoich modeli "w prostych słowach". Następnie liderzy religijni odpowiedzieli uwagami i dyskusją.

"Każde rodzaju pytanie moralne, jakie podnosi ta technologia — od 'Czy ludzie mają duszę?' po 'Czy uczniowie trzeciej klasy powinni mieć dostęp do chatbota do nauki czytania i pisania?'"

Przedstawiciele Meta, Google i Amazona również spotkali się z Watykanem, a Microsoft aktywnie prowadzi działania wobec środowisk religijnych.

Nowoczesny wynalazek

Religia jest powszechnie uważana za coś zarówno starożytnego, jak i uniwersalnego. Eksperci, tacy jak zmarły wpływowy uczony Jonathan Z. Smith, przyznają, że w pewnym sensie to prawda, ale mówią, że to niepełny obraz.

"Człowiek miał całą swoją historię, aby wyobrażać sobie bóstwa i sposoby interakcji z nimi. Ale człowiek, a dokładniej człowiek zachodni, miał zaledwie kilka ostatnich stuleci, aby wyobrażać sobie religię" — napisał Smith w 1982 roku.

Wielu współczesnych religioznawców podziela pogląd Smitha na ich dziedzinę. Kwestionują ideę, że religie tworzą zestaw odrębnych, porównywalnych systemów, nazywając to nowoczesną koncepcją, sięgającą co najwyżej XIX wieku.

Na przykład buddyzm i hinduizm nie były uznawane za jasno określone tradycje przez ludzi, którzy je praktykowali, przed przybyciem europejskich uczonych — według Tomoko Masuzawy, religioznawczyni i autorki książki "The Invention of World Religions".

"Wszystkie te kategorie nie były rodzime" — powiedziała Masuzawa.

Zachodni akademiccy uczeni przez lata utrwelali te kategorie,aczynając je poważnie ponownie badać dopiero w drugiej połowie XX wieku. Te zakorzenione wyobrażenia o religii — że łatwo ją porównywać między kulturami — pomagają wyjaśnić, dlaczego Dolina Krzemowa może nie czuć potrzeby definiowania własnego rozumienia religii. W dążeniu do reprezentowania różnych punktów widzenia religia często służy jako oczywisty sposób na zademonstrowanie różnorodności myśli.

"Jakoś tak się dzieje, że religia staje się sposobem mapowania świata" — powiedziała Masuzawa. "Jakby cały świat w to trochę uwierzył."

Niektórzy obserwatorzy chcą, aby firmy dokładniej zdefiniowały swoje terminy i intencje, aby osoby z zewnątrz mogły lepiej zrozumieć, czego dokładnie oczekują od religii.

"Ta praca nie polega na dopasowaniu naszych modeli do światopoglądu jakiejkolwiek jednej tradycji. Chcemy, aby Claude czerpał z pełnego zakresu punktów widzenia — religijnych, świeckich, politycznych — z równą głębią i rygorem" — oświadczył Anthropic w poście na blogu. "Chodzi nam o staranne, kumulatywne myślenie o tym, jak faktycznie kształtuje się dobry charakter."

Jak, i czy w ogóle, te rozmowy przekładają się na zachowanie modeli, pozostaje w dużej mierze nieujawnione, co czyni szczegółowość przyszłych ujawnień jednym z punktów do obserwowania, gdy Anthropic poszerza pulę konsultowanych grup.

Ryzyko ujednolicenia

Duże modele językowe działają poprzez wielokrotne zgadywanie kolejnego słowa w zdaniu po "nauce" wzorców ogromnej kolei dzieł napisanych przez ludzi, w tym tekstów religijnych. Paolo Carozza, członek niezależnej Meta Oversight Board i ekspert prawny zajmujący się katolicką myślą społeczną i technologią, obawia się, że w dążeniu do akumulacji cechy definiujące daną tradycję mogą zostać utracone — w efekcie ujednolicone do czegoś, co ciągnie ku środkowi lub wręcz faworyzuje religie zachodnie.

"Każda żywa, wyrafinowana tradycja z upływem czasu jest zdolna do interakcji z innymi poza nią, przyswajania nowej wiedzy i rozwoju. Ale robi to w sposób organiczny" — powiedział. "To, co sztuczna inteligencja — jak myślę — często robi i potencjalnie robi, nie jest organiczne, ale polega na po prostu wrzuceniu wszystkiego razem, wymieszaniu tego, przez co nic z tego nie ma sensu."

Ta historia pierwotnie ukazała się na Fortune.com.