Миф о зове сирен живет с нами тысячи лет, а в последнее время его вновь оживил блокбастер Кристофера Нолана The Odyssey. Сирены — это сверхъестественные существа, чей зов настолько завораживает, что ведет людей к гибели; при этом само выражение стало обозначением того, чего ты знаешь, что не должен делать, но все равно не можешь устоять.

Одиссей — следуя наставлениям чародейки Кирки в Book 12 поэмы Гомера — велел привязать себя к мачте и приказал команде заткнуть уши воском. Но, услышав зов сирен, он закричал, чтобы его освободили, и умолял людей отпустить его. Человек, который 10 лет перехитрял богов, не доверял себе даже 30 seconds в пределах слышимости звука, который, как он знал, погубит его.

Этот особый вид ужаса — страх того, что ты можешь сделать, если искушение окажется реальным, — старше интернета, старше ИИ, старше любой технологии, в которой когда-либо видели угрозу нашей слабости. Он был ключевой сюжетной линией в Iliad и The Odyssey, а столетия спустя стал центральной проблемой греческой философии — тем, что стоики пытались решить всю свою жизнь. И именно это, похоже, чувствует большое и тихо растущее число людей каждый раз, когда они открывают чат-бота; поэтому они ненавидят технологию, не пользуясь ею, и хотят резко затормозить работу центров обработки данных, которые движут крупнейшим экономическим бумом как минимум за столетие.

Это страх того, что ты не справишься с собой; что ты недостаточно хорош или умен; что, когда перед тобой лежит простой, а возможно и разрушительный, способ решения, у тебя не хватит сил сопротивляться зову сирен. У Сократа был тот же страх по поводу письма, у переписчиков — тот же страх по поводу печатного станка Гутенберга, а у Джона Саксона — тот же страх по поводу калькулятора. Но ИИ собирает все эти страхи в точке, выходящей за рамки письма, печати или счета, — в самом акте мышления. В этом свете миллиардный успех The Odyssey вовсе не случаен для такого времени.

Страх, скрытый под данными

Люди, которые тайно используют ИИ на работе и называют это «cheating», переживают не столько из-за того, что начальник узнает об этом. Само это слово возникает потому, что часть их уже задает другой вопрос: если это отнять завтра, останусь ли я хорош в своей работе? Останусь ли я умным?

У этого есть всем известное название: impostor syndrome, постоянный, частный страх быть разоблаченным как менее способный, чем все считают. С ИИ рядом теперь есть инструмент, который молча ведет счет — и выявляет каждую галлюцинацию, которую ты недостаточно квалифицирован, чтобы заметить.

Второй страх касается не компетентности, а характера: а что, если у меня на самом деле нет самоконтроля? Что, если я приму первый ответ чат-бота, не подумав, как его действительно улучшить? Что, если меня высмеют за то, что я добавляю в мир еще больше AI slop?

В психологической литературе это называется “cognitive offloading” — использование внешних инструментов, чтобы снизить внутреннюю нагрузку задачи. Люди делают это со времен Древней Греции; Сократ был одним из самых ранних зафиксированных в истории голосов, который тревожился о том, как люди снимают с себя бремя тяжелой интеллектуальной работы. Генеративный ИИ разгружает рассуждение, синтез и творческое суждение — то когнитивное усилие, благодаря которому экспертиза действительно формируется, а не просто извлекается. Социальные психологи десятилетиями описывают людей как “ cognitive misers ” — термин, введенный Susan Fiske и Shelley Taylor в их фундаментальной работе по социальной когниции, — то есть мы считаем напряженное, сознательное мышление неприятным и по возможности выбираем короткие пути.

Возможно, именно в этом и состоит главный спор вокруг ИИ, который потрясает рабочую среду и общество, как отмечается в The AI Shift — еженедельной рассылке Financial Times о том, как ИИ меняет работу, которую ведет колумнист John Burn-Murdoch и в которой он, опираясь на исследования экономистов José Azar, Mireia Giné и Javier Sanz-Espín, показал, что профессии, наиболее подверженные ИИ, не теряют работников — на бумаге занятость выглядит нормально. Но зарплаты в этих ролях резко снизились по сравнению с менее подверженными ИИ направлениями, а сами работники стали гораздо реже менять работу. Людей не увольняют из-за ИИ, но, похоже, они тихо становятся менее ценными и тихо застревают. Реальная линия разлома, утверждает Burn-Murdoch, проходит не между профессиями, а между исполнением и оценкой.

Название Burn-Murdoch для того, что разделяет эти две группы, — conscientiousness, и он отмечает, что многие сотрудники, использующие ИИ на работе, делают это тайно, называя это «cheating». Но летом Одиссея работники в мире, охваченном ИИ, похоже, боятся чего-то более первобытного и древнего: что они не смогут устоять перед зовом сирен.

Каждая технология, экономящая усилия, делала это и раньше

Вернемся на секунду к Сократу: около 370 BCE великий греческий философ в Phaedrus выдвигал поразительно знакомые аргументы против создания технологии письма, пересказывая египетскую легенду о том, как бог Theuth предлагает новое изобретение царю Thamus. Он утверждал, что письмо « implant forgetfulness », создавая учеников, у которых есть лишь видимость мудрости — людей, которые могут повторять, но уже не способны по-настоящему мыслить. Свитки, по его словам, превращали бы людей в stochastic parrots — если перефразировать современную критику ИИ.

То же самое чувство вернулось, хотя и в меньшем масштабе и менее заметно, когда печатный станок начал переносить знание из памяти на страницу. Немецкий бенедиктинский аббат Johannes Trithemius написал трактат De Laude Scriptorum («In Praise of Scribes»), утверждая, что печатные книги никогда не сравнятся с рукописными манускриптами. «Printed books will never be the equivalent of handwritten codices, especially since printed books are often deficient in spelling and appearance.»

Затем этот страх вернулся снова, уже с реальными данными, когда калькуляторы появились в американских школах в 1970s и ’80s. Спор достиг пика в 1986, когда учитель математики John Saxon возглавил протест на собрании National Council of Teachers of Mathematics. Последующие исследования действительно подтвердили его опасения: привычное использование калькулятора до того, как ученики усвоили базовую арифметику, ослабляло их устную вычислительную беглость и воспроизведение фактов. Но великие писатели и великие математики сумели преодолеть своего внутреннего cognitive miser и использовать эти новые технологии с большой пользой.

У греков было для этого слово

Греки не просто мимоходом беспокоились о самоконтроле. Они построили вокруг него целую ветвь философии. У них было точное слово для конкретного сбоя: выбрать короткий путь, уже понимая, что лучше так не делать. Они называли это akrasia — буквально «без силы» — действовать против собственного лучшего суждения, полностью осознавая, что ты это делаешь. Socrates отрицал, что это вообще возможно. Поколение спустя Aristotle разошелся с ним, настаивал, что проблема реальна, и построил для ее объяснения нечто похожее на спектр характера.

На одном конце находится sophrosyne, или temperance: ваши желания уже приучены к правильному, поэтому борьбы нет. Ниже — enkrateia: вы хотите короткий путь, разум побеждает, но вы все время чувствуете притяжение. Ниже — akrasia: побеждает желание. В самом низу — akolasia, то есть потакание себе, ставшее настолько привычным, что вы уже не воспринимаете короткий путь как искушение. Это просто то, что вы делаете.

Ключевой ход у Aristotle состоит в том, что ни одно из этих состояний не является фиксированной идентичностью. Вы движетесь по этому спектру через повторение. Вы становитесь человеком, который не чувствует тяги к легкому пути, делая трудное снова и снова, пока это не становится частью вас. И это, почти без необходимости перевода, ровно та же разница между китайскими студентами, которые использовали ИИ как tutor и продолжали практиковаться, и теми, кто использовал его, чтобы полностью пропустить практику. Одна группа тихо выстраивала sophrosyne. Другая незаметно дрейфовала к akolasia. Стоики — в их числе Epictetus и император Marcus Aurelius — пошли еще дальше и сделали self-mastery почти самой сутью хорошей жизни.

Christopher Nolan этим летом потратил сотни миллионов долларов и каждый дюйм 70mm IMAX film stock, чтобы показать: миф об Одиссее — именно тот, который нужен нашему времени. Публика согласилась: фильм вышел в July и превысил $1 billion в мировом прокате, став самым кассовым фильмом Нолана на сегодняшний день.

Автор этого материала тоже участвовал в споре об AI writing — споре, который приобрел новое значение после того, как экономист Harvard Ricardo Hausmann признался в использовании ИИ в колонке для Financial Times, а Stanley Druckenmiller сделал то же самое в колонке для Wall Street Journal (это же издание в March публиковало материал об использовании им этой технологии). Многие, даже близкие друзья, говорили автору, что его тексты звучат умно, но они не верят, что это действительно пишет он, и иногда, признает автор, это ранит; но времена сейчас странные.

Автор подчеркивает, что использует технологию как инструмент, заставляя и себя, и машину идти глубже, не останавливаясь на первом ответе. Например, в этот текст вошли запросы о идее Burn-Murdoch о «conscientiousness» и вопросы о том, в какой более широкий паттерн это укладывается с точки зрения человеческой психологии и какие прежние технологии поднимали похожие противоречия. (Claude отверг мою мысль о том, что это напомнило мне фильм Idiocracy, предложив вместо этого Wall-E, но я отверг этот ход — «Maybe I shouldn't have; this is long enough.»)

На протяжении всего текста, пишет автор, им двигало предположение, что в глубине души все мы, люди, тайно боимся, что мы немного глупы и не умеем себя контролировать. В конце концов, тот же страх был у самого Socrates, как и у Odysseus.

Для этой истории журналисты Fortune использовали генеративный ИИ как инструмент для исследования. Редактор проверил точность информации перед публикацией.

Эта история была впервые опубликована на Fortune.com.