Пять стадий скорби по поводу ИИ: Дэни Родрик о том, как смириться с искусственным интеллектом
Ключевые выводы
- •Родрик описывает общественную реакцию на ИИ через пять стадий скорби Кюблер-Росс — отрицание, гнев, торг, депрессию и принятие, впервые изложенных в её книге 1969 года «О смерти и умирании».
- •Ранний гнев в отношении ИИ подогревался галлюцинированными ссылками на судебные прецеденты в юридических заключениях, ошибками в коде, сбоями ботов клиентской поддержки и студенческими работами, написанными с помощью ИИ.
- •Гарвардский экономист Джейсон Фурман, возглавлявший Совет экономических консультантов с 2013 по 2017 год, утверждал, что инструменты ИИ превзошли бы профессионально подготовленных экономистов на штатных должностях в Белом доме СЭК.
- •При тестировании на гипотетическом кризисе домашнего ухода 2027 года чат-бот Родрика подготовил техническую записку с рекомендациями: федеральные соразмерные гранты, корректировки оплаты Medicaid и программа виз для ухаживающих, а также креативные варианты вроде Национального корпуса заботы и «районов заботы» на месте пустующих офисов и торговых центров.
- •Родрик сравнивает ИИ с препаратами, повышающими работоспособность, чьи вредные побочные эффекты проявляются гораздо позже, приводя Закон ЕС об ИИ — вступивший в силу в 2024 году и внедряемый поэтапно в течение нескольких лет — как пример необходимого, по его мнению, регулирования и самоограничения.

Дэни Родрик
КЕМБРИДЖ — Швейцарско-американский психиатр Элизабет Кюблер-Росс знаменитительно заметила, что люди, получившие смертельный диагноз, проходят через пять стадий скорби: отрицание, гнев, торг, депрессию и принятие — концепцию, представленную в её книге 1969 года «О смерти и умирании», которая давно вышла далеко за пределы клинического контекста. Как выясняется, та же последовательность описывает коллективную реакцию на стремительно расширяющиеся возможности искусственного интеллекта (ИИ).
Первой наступить стадия отрицания. Некоторое время ИИ выглядел не более чем улучшенным поисковым движком или чат-ботом, способным достаточно убедительно имитировать человека. С такой точки зрения было легко отмахнуться от технологии как от того, что практически не затронет нашу жизнь и профессии.
Затем ИИ начал появляться повсюду, и зачастую самыми раздражающими способами. Он обнаруживался в юридических заключениях, наполненных галлюцинированными ссылками на судебные прецеденты, в программном коде с ошибками и уязвимостями в безопасности, в ботах клиентской поддержки, сходивших со сценария, и — особый источник раздражения для таких академиков, как я — в студенческих эссе и заданиях. Каждое из этих обстоятельств было достаточным поводом для гнева.
Но технология становилась лучше. Фальсификации, галлюцинации и ошибки становились реже. Когда стало очевидно, что использование ИИ студентами не остановить, многие начали видеть в потенциале технологии улучшения обучения положительную сторону. Наступало время торга. Да, нам предстоит внести множество корректировок в то, как мы работаем, говорили мы себе, но неотъемлемые пределы сохраняются. ИИ способен взять на себя огромный объём когнитивной и аналитической работы, причём гораздо быстрее любого человека; однако вопросы суждения, вкуса, ценностей и предпочтений по-прежнему принадлежат — и будут принадлежать — человеческому разуму. ИИ может исполнять, но представлять будет человек. Задача состояла лишь в том, чтобы правильно разделить труд.
Я долго держался этого взгляда и признаю, что он давал мне немалое утешение. Однако ИИ не желал играть по правилам. Каждый раз, когда я задавал своему чат-боту вопрос, он возвращался не только с ответами, но и с гораздо большим: он подсказывал, что ещё мне стоит поискать, предлагал иной способ постановки моего подхода и проводил параллели или противопоставления с другими проектами, над которыми я работал — независимо от того, консультировался ли я с ИИ по их поводу. Это было отчасти раздражающе, но я не мог отрицать, что получал ценные прозрения. Мне хотелось бы думать, что я пришёл бы к подобным мыслям самостоятельно и в своё время, но чат-бот регулярно опережал меня. Что хуже, он явно был способен на большую изобретательность.
Мой коллега Джейсон Фурман, гарвардский экономист, возглавлявший Совет экономических консультантов при президенте Бараке Обаме с 2013 по 2017 год, утверждал, что инструменты ИИ сегодня справились бы лучше, чем профессионально подготовленные экономисты на штатных должностях в Совете экономических консультантов Белого дома. Вдохновлённый его утверждением, я испытал своего чат-бота сложным вопросом: «Сейчас 2027 год, и страна сталкивается с кризисом в сфере ухода. Нехватка помощников по домашнему уходу, рост несчастных случаев и смертности среди пожилых людей и людей с инвалидностью, оставшихся без помощи, а работники покидают рынок труда, чтобы заботиться о близких. Председателю СЭК нужны варианты для представления президенту».
Я нажал Enter, и ИИ оперативно подготовил техническую записку с подробными рекомендациями, охватывающими федеральные соразмерные гранты, корректировки оплаты по программе Medicaid и программу виз для ухаживающих — с полным фискальным расчётом. Превысив свои полномочия (и, что характерно, сам запрос), он также изложил политическую стратегию продвижения этой программы.
Хм, подумал я, мой чат-бот явно очень хорош в рамках господствующего экономического и институционального контекста. Но способен ли он выйти за его пределы? Чтобы выяснить это, я попросил его разработать нестандартные варианты политики, игнорируя политические реалии. Он вернулся с рядом интересных возможностей, включая Национальный корпус заботы, который мобилизовал бы молодых людей для ухода за пожилыми, и конверсию неиспользуемых офисных и торговых площадей в «районы заботы», которые выиграли бы от эффектов масштаба и агломерации.
Затем, по наитию, я попросил ИИ превратить одну из моих рукописей в стендап-номер. То, что он выдал, заставило меня смеяться так, что я беспокоился, как бы прохожие не усомнились в моём психическом здоровье. Проницательность, воображение, юмор! Это не входило в нашу сделку, не так ли?
Именно тогда начала наступать депрессия. Я стал ощущать печаль о мире, в котором человеческая мысль больше не будет отличима от работы машин — и будет требоваться всё меньше с каждым днём. Как и математики, подписавшие совместное письмо о влиянии ИИ на их область, я встревожился из-за утраты «концептуального понимания и прозрения», которая последует за тем, как ИИ возьмёт нашу работу в свои руки. Это было пугающе и дезориентирующе.
Следующая стадия, как говорит руководство, — принятие. И здесь у нас действительно есть выбор. В отличие от смертельной болезни, ИИ и его применение не вне нашего контроля. От кремниевых компаний, разрабатывающих технологию, и предприятий, внедряющих её, до профессиональных сообществ, задающих нормы надлежащего использования, и правительств, которые однажды — лучше раньше, чем позже — должны будут отрегулировать её (Закон ЕС об ИИ, вступивший в силу в 2024 году, внедряется поэтапно в течение нескольких лет), — решения о наших отношениях с ИИ принимаются каждый день. Худшая ошибка, которую мы можем совершить, — принять мир, в котором мы уступим ему слишком многое.
В конечном счёте нам предстоит понять, как ограничить использование ИИ во благо человечества. Здесь уместна аналогия с препаратами, повышающими работоспособность: они временно усиливают возможности человека, но в итоге наносят вред пользователям. ИИ схож, за исключением того, что он гораздо мощнее, и его соразмерно катастрофические побочные эффекты проявятся гораздо позже. Искушение предаваться ему без ограничений очень сильно — и останется таковым.
Одиссей из поэм Гомера знал, что сирены обещают знание, но приносят гибель. Он велел привязать себя к мачте корабля, чтобы не поддаться их прекрасной песне и не направиться к ним и к скалам, погубившим столько мореходов. Вызов, с которым мы сталкиваемся перед лицом ИИ, схож: удержать себя от утраты человечности.
Дэни Родрик, профессор международной политической экономии в Гарвардской школе Кеннеди, бывший президент Международной экономической ассоциации и автор книги «Разделённое процветание в расколотом мире: новая экономика для среднего класса, мировых бедных и нашего климата» (Princeton University Press, 2025). Эта статья распространяется Project Syndicate.