ニュースマクロAIの「悲嘆の5段階」──ダニ・ロドリックが語る人工知能との向き合い方

AIの「悲嘆の5段階」──ダニ・ロドリックが語る人工知能との向き合い方

著者: The Korea Times Business·

重要ポイント

  • •ロドリックは、AIに対する社会の反応を、キューブラー・ロスが1969年の著書『死の刹那』で示した悲嘆の5段階──否定、怒り、取引、抑うつ、受容──で整理する。
  • •初期のAIへの怒りは、弁護士の準備書面に混じった幻覚の判例引用、欠陥のあるソフトウェアコード、誤作動するカスタマーサービスボット、学生のAI作成課題によって煽られた。
  • •2013年から2017年に経済諮問委員会(CEA)委員長を務めたハーバードのエコノミスト、ジェイソン・ファーマンは、AIツールはホワイトハウスCEAのスタッフエコノミストより優れた仕事をすると主張している。
  • •2027年の在宅介護危機を想定した実験では、ロドリックのチャットボットは連邦マッチンググラント、メディケイド報酬の調整、介護士ビザプログラムを推奨する技術メモを作成し、さらにNational Care Corpsや遊休オフィス・商業施設の「ケア地区」転用といった創造的な選択肢も提示した。
  • •ロドリックはAIを、有害な副作用がはるかに後で現れるドーピング薬になぞらえ、2024年に発効し数年かけて段階的に導入されているEUのAI規則を、必要とされる規制と抑制の例として挙げる。
AIの「悲嘆の5段階」──ダニ・ロドリックが語る人工知能との向き合い方

ダニ・ロドリック

ケンブリッジ──スイス系アメリカ人の精神科医エリザベス・キューブラー・ロスは、余命を宣告された人が「否定、怒り、取引、抑うつ、受容」という悲嘆の5段階を経ると、著名な著書で指摘した。これは1969年の著書『死の刹那』で提示された枠組みであり、臨床の枠を超えて広く普及することとなった。実は、この一連の過程は、急速に拡大する人工知能(AI)の能力に対する私たち社会全体の反応を的確に描写している。

最初に来たのは「否定」の段階だった。しばらくの間、AIは高機能な検索エンジンか、人間をそこそこ上手に模倣できるチャットボット程度のものに見えた。その見方なら、この技術が私たちの生活や職業に大きな影響を与えることはないと片付けるのは容易だった。

やがてAIはあらゆる場所に現れ始め、しかも最も腹立たしい形で登場した。幻覚の判例引用が混じった弁護士の準備書面、ミスやセキュリティ脆弱性を含むソフトウェアコード、台本を無視するカスタマーサービスボット、そして──私のような研究者にとっては特に頭に来る話だが──学生のエッセイや課題である。いずれも怒る十分な理由だった。

しかし技術は改善された。捏造、幻覚、ミスは減っていった。学生によるAI利用が止められないことが明らかになると、多くの人は学習を強化する可能性というプラス面を見出し始めた。ここで「取引」の番だ。作業の進め方を様々に調整する必要はあるだろうが、AIには本来限界がある、と自分に言い聞かせた。AIは膨大な認知的・分析的な作業を、人間よりはるかに速くこなせる。だが判断、趣味、価値観、好みの問題は依然として人間の心の領域であり、これからもそうであり続ける。AIは実行し、人間は想像する。あとは役割分担を正しく定めるだけだ、と。

私はこの考えをかなり長い間、拠り所にしてきた。認めれば、それは大きな安心感を与えてくれていた。ところが、AIは素直にその枠に収まってはくれなかった。チャットボットに質問するたびに、返ってくるのは答えだけではない。他に何を調べるべきか教えてくれ、別の切り口を提案し、私が手がけた別のプロジェクトとの共通点や対比を挙げてきた(AIに相談したことのない案件であってもだ)。少し鬱陶しくはあったが、貴重な洞察を得ていることも否定できなかった。自分でもそのうち同じ考えに辿り着いたはずだ、と思いたいが、チャットボットはいつも先回りしてきた。さらに悪いことに、明らかに非常に豊かな想像力を発揮できるのだ。

同僚のジェイソン・ファーマン──2013年から2017年にかけてバラク・オバマ大統領のもとで経済諮問委員会(CEA)委員長を務めたハーバードのエコノミスト──は、AIツールは今日、ホワイトハウスCEAのスタッフエコノミストよりも優れた仕事をすると主張している。この発言に触発され、私はチャットボットに難問を投げた。「今は2027年、国は介護危機に直面している。在宅介護士が不足し、助けのない高齢者や障害者の事故と死亡が増え、家族の介護のため労働市場から離れる人が後を絶たない。CEA委員長は大統領に提示する選択肢を必要としている。」

エンターを押すと、AIはただちに技術メモを作成した。連邦マッチンググラント、メディケイド報酬の調整、介護士ビザプログラムに及ぶ詳細な提言に、財政勘定まで付いている。お約束通り、その権限(そしてプロンプト自体)を超えて、プログラムを売り込むための政治戦略まで提示してきた。

うーん、と私は考えた。私のチャットボットは、既存の経済的・制度的文脈の中で動くのは明らかに得意だ。だが、その枠を超えられるだろうか。その答えを確かめるため、政治的現実を無視した型破りな政策の選択肢を考えるよう頼んだ。興味深い案が返ってきた。若者を動員して高齢者をケアするNational Care Corps(国家介護団)や、遊休状態のオフィスや商業施設を規模の経済と集積の利益を享受できる「ケア地区」に転用する構想などである。

そして気まぐれから、私の原稿の一つをスタンドアップコメディに変換するようAIに頼んでみた。返ってきたものに大爆笑し、通行人に精神状態を心配されるのではないかと案じたほどだった。洞察、想像力、そしてユーモア!これは私たちの取り決めには含まれていなかったはずではないか。

そこから「抑うつ」が始まった。人間の思考が機械の仕事と区別できなくなり、必要とされる日が増していく世界を思い、悲しみを覚えるようになった。AIの自分の分野への影響についての共同声明に署名した数学者たちと同じく、AIに仕事を奪われることで失われる「概念的理解と洞察」に警鐘を鳴らした。それは恐ろしく、方向感覚を失わせるものだった。

マニュアルによれば、次の段階は「受容」だ。ここには、私たちに選択の余地がある。末期の病気と違って、AIとその利用は私たちの手の届かないところにはない。この技術を開発するシリコンバレー企業、それを導入する企業、適切な利用の規範を定める専門家コミュニティ、そしていつかは(早いに越したことはないが)規制しなければならない政府に至るまで、AIとの関係についての決定は日々行われている。最悪の過ちは、AIにあまりに多くを委ねる世界を受容することだ。

結局のところ、人類の利益のためにAIの利用をどう抑制するかを見極めなければならない。適切な比喩はドーピング薬だ。それは一時的に人間の能力を高めるが、最終的には使用者を害する。AIも同様だが、はるかに強力であり、それに見合った破滅的な副作用が顕在化するのはずっと後になる。自由に使い込む誘惑は強く、今後も強くなり続けるだろう。

ホメロスのオデュッセウスは、セイレーンが知識を約束しながら破滅をもたらすことを知っていた。彼は美しい歌声に負けて、多くの船乗りを奪った岩礁へと船を向けてしまわぬよう、自分を船のマストに縛らせた。AIをめぐる私たちの課題も似ている。人間性を失わないよう、自らを律することだ。

ダニ・ロドリックは、ハーバード・ケネディスクールの国際政治経済学教授、国際経済学会元会長であり、『分断された世界における共有の繁栄:中産階級、世界の貧しい人々、そして気候のための新しい経済学』(プリンストン大学出版、2025年)の著者である。本記事はProject Syndicateにより配信された。