ローマ教皇レオ14世は、人工知能が豊かな国と貧しい国の格差を深める新たな「経済的植民地主義」になり得ると警告し、アルゴリズムがすでに、誰が見られ、誰が聞かれるのかについて「静かな支配の形」を生み出していると述べた。

「この点について、私たちは警戒を怠ってはなりません」とレオは金曜日、International Catholic Legislators Network (ICLN) を構成する公職者のネットワークに語った。「さもなければ、イノベーションが思想的または経済的植民地主義の新たな手段となってしまう。」このネットワークは毎年、数十カ国のカトリック議員を集めており、教皇が求めた「強固な法的枠組み」を実行に移せる立場にある人々でもある。

教皇は、AIの急速な発展によって、より貧しい国々が技術面でより豊かな国々への依存を強めるリスクがあると警告した。

さらに教皇は、アルゴリズムが誰を見せ、誰を見えなくするのかを決め、デジタル・プラットフォームが説明責任なしに公共の議論を形作り、労働者の尊厳がシステム最適化に従属させられるときに生じる「静かな支配の形」と呼ぶものを説明した。こうした事態は、「奉仕なき支配と支配欲という古い誘惑が、新たな姿で現れていることを示している」と述べた。

そうしたリスクを防ぐため、レオは「強固な法的枠組み、独立した監督、十分な理解を持つ利用者、そして責任を放棄しない政治システム」を求め、「いかなる単一の思想や利害も、人工知能システムに埋め込まれた価値を左右しない」ようにすべきだと訴えた。

責任ある政治システムを求める教皇の呼びかけは、トランプ政権のAI規制緩和路線との緊張関係で、これまでにも用いてきた表現を思い起こさせる。ドナルド・トランプ大統領は連邦レベルのAI規制を緩和するよう求め、2025年1月にはバイデン政権のAIに関する大統領令を撤回した。この規制緩和への転換は、世界初の包括的AI法であるAI法（AI Act）を段階的に導入している欧州連合との差を際立たせている。レオが5月に「Magnifica Humanitas」を公表した際、この文書は教皇の「AI回勅」とも呼ばれ、JDヴァンス副大統領が称賛する一方で、他の者たちは警告を退けるなど、トランプ政権内でも反応は割れた。

それ以来、教皇は、AIとテクノロジー全般が人々の相互の交流や関係を減らしていると述べてきた (Fortune, Fortune)。その結果、人々が結婚や出産という節目に到達する年齢が上がり、場合によってはその節目自体に到達しないこともある中で、婚姻率と出生率の低下につながっている。教皇は、AIは家族を「決して損なわせてはならない」と警告し、そのような影響は、家族や人間関係を「データとシミュレーションに還元する」ことや、「欲望をゆがめるコンテンツを若い心にあふれさせる」こと、そして「家族生活を経済的に不安定にする経済モデル」を通じて起こると述べた。

教会の立場の再提示

この演説は、AIが人間の尊厳、労働、家族生活に与える影響を、教皇職初期の教えの中心に据えた最初の回勅を踏まえたものだった。政治コンサルタントでニュースレター「Letters from Leo」の創設者クリストファー・ヘイル氏は、金曜日の発言は新たな立場というより、回勅ですでに示された考えの再提示だったと述べた。

「200ページもある回勅を読む人なんていません」とヘイル氏はFortuneに語った。「たいていは、数週間、数カ月をかけて教皇がその回勅のさまざまな部分を明らかにしていくのです。」金曜日の発言は要するに最初の回勅の繰り返しだったが、重要なのは、それを再び示しているのが誰かだという点だ。

ヘイル氏は、レオの宗教的権威が、テクノロジー業界に対峙するうえで他のAI批判者にはない立場を与えていると述べた。

「シリコンバレーには、彼らが慣れていない地形で動く相手がいる」とヘイル氏は言う。「彼らは取引関係で物事を進めることに慣れているが、レオ14世は彼らにとって厄介な存在だ。買収できない、脅せない、起訴できない、国外追放もできないからだ。」

またヘイル氏は、AI批判を宗教的な言葉と組み合わせることで、すでに懐疑的な活動家を超えて訴求範囲が広がると付け加えた。

「この言葉が道徳的な言葉、宗教的な言葉と結びつくと、米国では周縁的な支持しかないかもしれない左派的批判を、主流に変えるのです」と彼は述べた。

ヘイル氏は、AIデータセンターに対する反発を挙げ、この業界への反対は、共通の政治言語がなくてもすでに党派を横断していると指摘した。

「特に夏の間のAIデータセンターへの批判を見ると、左からも右からも、実際にはあらゆる陣営から出ている」とヘイル氏は言う。「ただ、難しいのは、その二つを結びつける言語がまだないことだ。」

「彼は不思議なことに、ポピュリスト左派とポピュリスト右派の融合を体現している」とヘイル氏は述べた。「それが彼を非常に強力にしている理由です。」

この話はもともとFortune.comで掲載された。