По мере ускорения гонки за создание всё более мощного искусственного интеллекта некоторые ведущие компании отрасли сталкиваются с вопросом, который существовал задолго до появления компьютеров: как научить машину отличать добро от зла. И всё чаще их ответ — религия.

«Это не те вопросы, на которые может ответить лаборатория, — заявил ранее в этом году сооснователь Anthropic Крис Ола на презентации в Ватикане энциклики папы Льва XIV об искусственном интеллекте. — Это вопросы, которые такие традиции, как ваша, несут тысячелетиями».

И всё же на фоне столь широко обсуждаемого обращения к вере эти технологические компании почти не подвергаются публичному контролю в том, что касается того, что именно они считают религией — и, возможно, что важнее, на что они рассчитывают.

Пока руководители бьют тревогу по поводу разрушительного потенциала ИИ и обсуждают необходимость создания морально «хороших» моделей, они всё чаще обращаются за мнением к философам и религиозным лидерам. Эти консультации являются частью более широкой технической задачи, которую отрасль называет выравниванием (alignment), — формированием поведения моделей в соответствии с человеческими ценностями, что всё чаще требует дисциплин далеко за пределами компьютерных наук. Философия руководителей примерно такова: религия может помочь сделать ИИ морально добрым в момент, когда страхи перед этой технологией — обоснованные и необоснованные — распространяются по культуре. Поскольку эти компании не привязаны к какой-либо конкретной конфессии, цель зачастую весьма широка — совокупность моральных идей, которые могут определять их модели.

«Я думаю, ChatGPT должен отражать это средневзвешенное значение, что ли, моральных взглядов человечества», — сказал в прошлом году генеральный директор OpenAI Сэм Альтман.

Но эксперты и верующие предупреждают: эта идея не учитывает того, что разные традиции и мировоззрения могут противоречить друг другу. Проще говоря, говорят они, религия так не устроена. Ставки здесь не только философские, но и практические: какая бы моральная рамка ни была усвоена моделью, она в итоге проявляется в ответах пользователям, в том числе в таких условиях, как обсуждаемые на самих консультациях — например, доступ школьников к чат-ботам для обучения грамоте.

Взгляд на религию как на сборник правил

Десятилетиями учёные возражали против распространённого представления о религии как о наборе правил или принципов, которые можно оторвать от «зутанных, практических, ситуативных» способов жизни верующих, утверждает Уэбб Кин, антрополог из Мичиганского университета. Идея о том, что религию можно отделить от культуры и политики, укоренилась, хотя она пронизывает и то и другое во многих отношениях. Некоторые опасаются, что, обращаясь к религиозным лидерам с этическими вопросами, компании в области ИИ будут и дальше закреплять теорию религии, игнорирующую важность доктрины, ритуала и отношений.

Суть проблемы, по мнению Кина, такова: если исходить из того, что религия в целом предлагает особый набор извлекаемых моральных принципов, то её использование для обучения ИИ рискует отдавать предпочтение одним традициям и искажать другие — особенно те веры, которые не рассматривают себя прежде всего как систему этики.

«Существует весьма привычный способ представлять религию как сборник правил, — сказал он. — Это, безусловно, тесно связано с религиями Писания, а религии Писания в конечном счёте оказываются авраамическими религиями».

Внутри встреч Anthropic

Это не значит, что такие консультации lacked разнообразного представительства, и не значит, что взаимодействие с религией было бездумным с точки зрения участников — таких как Меган Салливан, философ религии, руководящая программой по этике и ИИ в Университете Нотр-Дам.

Anthropic не перечисляет традиции, с которыми консультировалась, однако в майской публикации в блоге компания сообщила, что встречалась с «учёными, духовенством, философами и этиками из более чем 15 религиозных и межкультурных групп» — круг, который она надеется расширить в будущем.

Ранее в этом году Салливан приезжала в Anthropic на одну из таких встреч, где присутствовали христиане разных конфессий. В отличие от разговоров с другими технологическими компаниями, её впечатлила строгость подхода Anthropic к религии. Компанию широко считают той фирмой в сфере ИИ, которая серьёзнее всех относится к этике и безопасности.

«Культура внутри компании похожа на атмосферу хорошего университетского кампуса в том смысле, что там собраны очень интеллектуально любознательные люди, — сказала она. — Эти встречи довольно заумные — не знаю, как лучше выразиться, — в хорошем смысле».

Встреча, по словам Салливан, состояла из двух частей. Сначала компания объяснила присутствующим устройство своих моделей «простым языком». Затем религиозные лидеры отреагировали отзывами и дискуссией.

«Любые моральные вопросы, которые поднимает эта технология — от „Есть ли у человека душа?“ до „Должны ли третьеклассники иметь доступ к чат-боту для обучения грамоте?“»

Представители Meta, Google и Amazon также встречались с Ватиканом, а Microsoft активно развивает религиозные контакты.

Современное изобретение

Религию обычно считают и древней, и универсальной. Эксперты, такие как покойный влиятельный учёный Джонатан З. Смит, признают, что в каком-то смысле это верно, но говорят, что это не вся картина.

«Человек — точнее, западный человек — имел всю свою историю, чтобы воображать божества и способы взаимодействия с ними. Но воображать религию человек начал лишь в последние несколько столетий», — писал Смит в 1982 году.

Многие современные исследователи религии разделяют взгляд Смита на их область. Они ставят под сомнение представление о религиях как о наборе отдельных сопоставимых систем, называя его современным понятием, которое можно проследить не раньше XIX века.

Например, буддизм и индуизм не воспимались их последователями как чётко очерченные традиции до прибытия европейских учёных, утверждает Томоко Масудзава, исследователь религиоведения и автор книги «Изобретение мировых религий».

«Все эти категории не были исконными», — сказала Масудзава.

Западные академики годами закрепляли эти категории и лишь во второй половине XX века начали всерьёз их пересматривать. Эти укоренившиеся представления о религии — что она легко сопоставима между культурами — помогают объяснить, почему Кремниевая долина может не чувствовать необходимости определять собственное её понимание. В стремлении представить различные точки зрения религия часто служит очевидным способом продемонстрировать разнообразие мысли.

«Каким-то образом религия становится способом своего рода картографирования мира, — сказала Масудзава. — Как будто весь мир в это некое образом поверил».

Некоторые наблюдатели хотят, чтобы компании чётче определили свои термины и намерения, чтобы посторонние могли лучше понять, что именно они надеются получить от религии.

«Эта работа не о том, чтобы согласовать наши модели с мировоззрением какой-то одной традиции. Мы хотим, чтобы Claude опирался на весь спектр точек зрения — религиозных, светских, политических — с равной глубиной и строгостью», — говорится в блоге Anthropic. «Цель этих разговоров — внимательное, накапливаемое осмысление того, как на самом деле формируется хороший характер».

Как — и переводятся ли — эти разговоры в поведение моделей, остаётся в основном нераскрытым, что делает конкретику будущих раскрытий одним из пунктов для наблюдения по мере расширения круга консультируемых групп.

Риск нивелирования

Большие языковые модели работают, многократно угадывая следующее слово в предложении после «изучения» закономерностей огромного массива написанных людьми текстов, включая религиозные. Паоло Кароцца, член независимого Наблюдательного совета Meta и юрист, изучающий католическую социальную мысль и технологии, опасается, что в погоне за накоплением определяющие черты той или иной традиции могут быть утрачены — фактически нивелированы во нечто среднее или даже в пользу западных религий.

«Любая живая, развитая традиция со временем способна взаимодействовать с другими вне её, впитывать новые знания и расти. Но она делает это органичным образом, — сказал он. — А ИИ, как мне кажется, часто и потенциально делает это неорганично — так, что просто сваливает всё вместе, всё перемешивает и в итоге ничего из этого не осмысляет».

Этот материал первоначально был опубликован на Fortune.com.