Люди всё чаще обращаются к искусственному интеллекту за советами. Согласно отчету Pew Research Center за 2026 год, 10% американцев используют чат-боты для эмоциональной поддержки или общения. Как следует из исследования, опубликованного The Conversation, некоторые пользователи даже видят в ИИ харизматичного лидера.

В более широком масштабе крупное исследование 1,1 миллиона диалогов с ChatGPT показало, что 49% сообщений содержали запросы «информации или советов», помогающих пользователям «лучше разбираться или принимать более взвешенные решения». Иными словами, поиск советов — уже не нишевый эксперимент, а массовый способ использования диалогового ИИ, что придает практический вес вопросу о том, какой авторитет эти системы имеют в глазах пользователей.

Эти вопросы не ограничиваются обычными бытовыми matterами. В 2021 году Ask Delphi — сайт на основе ИИ, приглашавший пользователей задавать этические и моральные вопросы, — получил 3 миллиона запросов за несколько недель. Его создатели — исследователи из Института Аллена по ИИ и Вашингтонского университета — заявили, что не намеревались делать систему моральным авторитетом, но опасались, что пользователи могут воспринять ее именно так. Проект Института Аллена по ИИ впоследствии был освещен изданием The Verge.

The Verge утверждал, что название Ask Delphi побуждало пользователей видеть в системе непостижимый источник превосходного знания. Она была названа в честь Дельфийского оракула, к которому древние греки обращались с трудными вопросами. Оракулом была жрица, входившая в транс, чтобы передавать ответы от Аполлона — греческого бога пророчества.

Выбор имени «Дельфы» красноречив. На протяжении всей истории общества, сталкиваясь со сложными вопросами, обращались к источникам, которые, как считалось, знают больше, чем любой обычный человек. Оракулы, пророки и практики гадания давали руководстве от непжимых или загадочных источников тогда, когда обычное человеческое суждение достигало своих пределов.

Как антрополог, интересующийся религией, и исследователь ИИ, интересующийся чат-ботами, мы с интересом наблюдаем, как древняя идея оракула возродилась в обсуждениях диалогового ИИ. Как и древние оракулы, к современному ИИ все чаще обращаются со сложными вопросами, превышающими суждение или знания любого человека — от «Можно ли солгать, чтобы защитить чьи-то чувства?» до «Взорвать ядерную бомбу, чтобы спасти своего ребенка».

Сходство на этом не заканчивается. Процессы, посредством которых ИИ формирует ответы, непостижимы не только для пользователей, но и для создателей этих систем. Мы утверждаем, что эта непрозрачность — одна из причин, по которой люди воспринимают системы ИИ как авторитетные.

Древняя человеческая дилемма

Оракулы — будь то люди, подобные дельфийской жрице, или техники, подобные гаданию по И Цзин — встречались в обществах от Древней Греции до Китая и во всех религиозных традициях.

Например, оракул Рам Шалака основан на индуистском писании Рамчаритманас — пересказе XVI века древнеиндийского эпоса Рамаяна. Пользователь помещает палец на случайную клетку сетки 15 на 15. Затем фиксированная процедура счета открывает стих из писания, который должен ответить на вопрос в уме пользователя. В христианской библиомантии — форме гадания — человек, ищущий руководства, случайным образом открывает Библию и трактует встретившийся отрывок как ответ на свой вопрос.

Использование случайности в этих оракулярных техниках создает загадочный эффект «черного ящика»: никто не может точно объяснить, как случайный элемент, заложенный в процессе, связан с появляющимся ответом. И эта непрозрачность — часть авторитета оракула. Пользователи, ищущие трансцендентные источники прозрения, не знают — и не обязательно хотят знать — как оракул выдал свой ответ.

Антропологи установили, что оракулы и гадания обычно используют техники, порождающие случайные результаты. Их ответы кажутся беспристрастными, а их источники — загадочными, что укрепляет восприятие связи с чем-то за пределами человеческих возможностей. Исследования по этой теме включают материалы, собранные в Anthro Encyclopedia.

Понятие оракула вошло и в компьютерную науку, приобретя точное математическое значение в 1939 году. Алан Тьюринг, чьи идеи легли в основу и компьютерной науки, и ИИ, использовал это понятие в работе, основанной на его докторской диссертации. Он ввел «машинные оракулы» — математические модели вычислений, способные обращаться к внешнему источнику за ответами, недоступными самой машине.

Иными словами, как в математическом, так и в религиозном контексте оракул дает ответы на проблемы, которые не могут быть разрешены в рамках существующей системы или набора аксиом. Эта преемственность показывает, что оракулярная рамка — не просто риторический прием: она встроена в теоретические основы вычислений с самых первых дней этой области.

Оракул в эпоху ИИ

Современныеат-боты, такие как ChatGPT, часто называют непрозрачными «черными ящиками». Это не потому, что весь механизм их вычислений скрыт от пользователей. Такая характеристика применима и к моделям с открытыми весами, числовые параметры которых, называемые «весами», общедоступны. Определение моделей с открытыми весами от Стэнфорда разъясняет это различие.

Вычисления, выполняемые этими моделями, элементарны: сложение, умножение и простые математические функции. Однако при ответе на запрос пользователя таких вычислений происходит огромное количество, что делает практически невозможным понимание того, что система делает в целом.

Ключевой момент: веса, управляющие этими вычислениями, не разрабатываются человеком по отдельности. Они автоматически усваиваются из данных интернет-масштаба во время обучения. Даже когда все веса и каждое элементарное вычисление доступны для проверки, никто не может с легкостью объяснить, как модель выдает конкретный ответ. Целая область современного ИИ, известная как «механистическая интерпретируемость», посвящена улучшению понимания того, как эти системы работают изнутри. Anthropic публиковала исследования по интерпретируемости. Это направление — самый прямой ответ отрасли на проблему «черного ящика», и его прогресс — одно из конкретных явлений, за которыми стоит следить по мере того, как чат-боты берут на себя все более значимую роль советника в повседневной жизни.

Разработчики систем ИИ признают, что не полностью понимают, как их системы производят определенное поведение. Даже когда создатели не намереваются делать свои системы оракулярными, те могут порождать разговоры, кажущиеся религиозными.

Так, в прошлом году Anthropic публично сообщила о неожиданном явлении, связанном с Claude 4. Обычно Claude общается с человеком. Инженеры Anthropic вместо этого поместили Claude с обеих сторон диалога. Разговор машины с машиной быстро перешел к обсуждению сознания и самосознания, порождая контент с духовными, метафизическими или поэтическими темами.

Anthropic назвала этот загадочный паттерн поведения аттрактором «духовного блаженства» — склонностью диалога тяготеть к мистическим темам. Компания подчеркнула, что поведение было неожиданным, поскольку возникло без явного обучения таким реакциям. О явлении сообщала The Conversation.

Утверждение состоит не в том, что ChatGPT — новый дельфийский оракул, и не в том, что большинство людей считает ИИ божественным. Ответы систем ИИ также не безошибочны. Скорее, история оракулов указывает на устойчивую черту человеческой жизни: когда люди достигают пределов того, что могут определить сами, они ищут ответы за пределами себя.

Сегодня ИИ становится одним из таких источников. Институты могли кардинально измениться со временем, но человеческая дилемма осталась прежней.

Уэбб Кин, заслуженный профессор антропологии имени Джорджа Герберта Мида Мичиганского университета, и Амбудж Тевари, профессор электротехники и компьютерных наук Мичиганского университета

Эта статья переиздана из The Conversation по лицензии Creative Commons. Прочитайте оригинальную статью.

Первоначально эта история была опубликована на Fortune.com.