グローバル・デザインファームのArupの財務担当従業員が、上級役員の合成複製が参加するビデオ会議に参加した後、2,560万ドルを送金した。顔は本物に見えた。声は本物のように聞こえた。指示は偽りだった。

その事案は孤立した警告ではなかった。Starbucks（スターバックス）は、バリスタから製品の誤カウントや業務の遅延が報告されたことを受け、AI在庫管理システムを導入からわずか9ヶ月で静かに撤退させた。Deloitte（デロイト）のオーストラリア法人は、実在しない学術情報源を引用し、捏造された裁判の引用文を含む29万ドルのAI支援レポートについて、政府への一部返金に同意した。業界も技術も異なるが、根本的な失敗は同じだった。人々はアウトプットも、アイデンティティも、システムも信頼できなかったのである。規制当局も注目し始めている。2024年に正式採択されたEU AI法は、高リスクAIシステムに段階的な義務を課しており、また米国国立標準技術研究所（NIST）は2023年にAIリスク管理フレームワークを公表し、信頼性と責任を評価するための自主的な基準を組織に提供している。

信頼は経済インフラの一形態になりつつある。信頼を構築できない企業は、動きが遅くなり、コストが増大し、市場を失うことになる。信頼が強固なとき、資本は流れ、パートナーシップが形成され、企業は成長する。信頼が崩れたとき、取引は停滞し、コンプライアンスと保険のコストが上昇し、リーダーはリスクから身を引く。

信頼とは盲目的な信仰ではない。それは獲得された信認——事実が真実であり、アイデンティティが本物であり、システムが安全であり、契約が遵守され、問題が起きたときには誰かが責任を負うという信認である。ビジネスの観点から言えば、信頼は摩擦を減らす。戦略的な観点から言えば、信頼はスピードを生み出す。

アメリカの信頼への最初の賭け

アメリカが建国250周年を迎えるにあたり、信頼が建国の脚注ではなかったことを思い起こすべきである。それは「賭け」そのものだった。本連載「Freedom & Enterprise」の最初の3編のエッセイでは、独立宣言をアメリカの最初の建国の賭けとして、それが生み出したシステムを人々が自由に築くことを可能にするものとして、そして失敗する自由を最大の競争優位の一つとして論じた。その3つすべての根底には、より根本的な原則がある。すなわち、アメリカは自由な人々が自らを統治し、リスクを取り、約束を守り、意見の不一致を乗り越えられるほど強固な制度を構築することを信頼したのである。

歴史の大部分において、秩序は上から押し付けられた。なぜなら支配者は一般の人々に権力を信頼しなかったからだ。独立宣言はその論理を逆転させた。署名者たちは王を拒否するためだけでなく、決して会うことのない市民と、決して見ることのない世代を信頼するために、自らの命、財産、そして神聖な名誉を誓った。その信頼は経済的優位性となった。起業家は王室の許可なく事業を始めることができ、投資家は財産権と契約が重要視されるためアイデアを支援でき、才能のある者は実力で昇進できた。そのシステムは不完全だったが、自らを修正し、信認を再構築する能力は、アメリカの最大の強みの一つとなった。

AIが新たなストレステストである

今日、人工知能はリアルタイムでアメリカの信頼の能力を試している。AIは科学、製造、医療、物流、生産性を加速させることができる。同時に、説得力のある虚偽を捏造し、役員の声をクローンし、不透明な意思決定を行い、驚異的なスピードでエラーを自動化することもできる。FBIは、サイバー犯罪者がビジネスメール詐欺、フィッシング、合成メディア詐欺のために生成AIを武器化していると繰り返し警告している。これはArupに2,560万ドルの損失をもたらしたものと同じカテゴリーの攻撃である。

答えはAIを止めることではなく、信頼をその中に組み込むことである。信頼できるデータ、追跡可能な来歴、強固なアイデンティティ管理、独立したテスト、人間の責任、明確なルール、そしてシステムが失敗した際の意味のある救済措置が必要である。信頼なきイノベーションはパイロット段階で停滞する。信頼を伴うイノベーションはインフラとなる。

AIにおけるアメリカと中国の戦略的競争は、単なる個々のモデル間の競争ではない。それは人材、研究、資本、安全なインフラ、回復力のあるサプライチェーン、同盟国による導入、商業的に優れた製品を含む、イノベーション・システム全体の競争である。最も大きな信認を勝ち取るエコシステムが、最も多くの構築者、買い手、パートナー、投資を惹きつける。

信頼の欠如は市場を分断する。IMF（国際通貨基金）の分析は、深刻な地政経済的分断が世界の産出量を最大7パーセント減少させる可能性があると推定した。これは孤立の論拠ではない。明確さの論拠である。だからこそ私は以前、Fortune誌ですべての取締役会が中国対応の緊急計画を持つべきだと主張した。すべての企業は、自分が何に依存しているか、誰がそれを管理しているか、自社のデータと技術が信頼できるか、そしてアクセスが一晩で消滅したらどうなるかを理解すべきである。

信頼は設計されなければならない

私はビジネスの現場でこの原則を学んだ後、外交の場でもそれに直面した。Aribaでは、調達を紙と閉鎖的なシステムからグローバルなデジタルネットワークへと移行させた。DocuSignでは、手書きの署名をデジタル契約に置き換えるよう人々に求めた。どちらの変革も技術だけでスケールすることはできなかった。アイデンティティ、セキュリティ、信頼性、執行力、責任の所在を、当初から製品に組み込む必要があった。

米国国務次官としてグローバル5Gネットワークの安全保障に取り組む中で、私は同じ原則を目の当たりにした。中心となる問いは、誰が最も速く、最も安く構築できるかだけでなく、商取引、金融、医療、エネルギー、交通、防衛にまたがる機密データの運搬を誰に信頼できるかだった。その問いがクリーン・ネットワーク（Clean Network）の基盤となり、同イニシアチブは世界のGDPの約3分の2を占める60ヶ国と200以上の通信企業にまで拡大した。

同じ原則が現在、クラック技術外交研究所（Krach Institute for Tech Diplomacy）におけるグローバル・トラステッド・テック・ネットワーク（Global Trusted Tech Network）を導いている。CEOと取締役会にとって、信頼は広報キャンペーンではなく、経営の規律として扱われなければならない。すべての経営陣は4つの問いに答えられるべきである。指示を出している人物を確認できるか。データとAIのアウトプットの起源を追跡できるか。自社の重要な技術とサプライチェーンの依存関係を把握しているか。システムが失敗した際の責任の所在は明確か。いずれかの答えが「ノー」であれば、その企業には単なるレピュテーションの問題があるのではない。オペレーティング・リスクがあるのである。

アメリカの次の250年

アメリカは以前にも信頼を再構築してきた。不完全に、そして闘争を通じて。アメリカ・システムの真髄は、途切れることのない信頼ではない。透明性、責任、競争、法の支配、言論の自由、自治を通じて信頼を修復する能力である。

その取り組みはFreedom 250の使命の一部である。建国を記念するだけでなく、アメリカの実験を可能にした原則を刷新すること。

建国者たちは、すべてを賭けて創造した国を未来の世代に託した。その責任は今、私たちにある。

自由は、事実が検証でき、アイデンティティが認証でき、契約が遵守され、リーダーが信認を獲得し、制度が公共に奉仕し、市民が互いに信義を保つときに維持される。

AIの時代において、信頼はイノベーションの代替ではない。イノベーションがスケールするための条件である。アメリカの未来は、信頼を管理で置き換えることによってではなく、信頼を再び獲得することによってこそ保障される。250年前、アメリカはすべてを信頼に賭けた。私たちは再びその賭けに報いなければならない。

自由が機能するのは、信頼が機能するときのみである。

Fortune.comのコメント記事に表明された意見は著者個人の見解のみであり、必ずしもFortuneの意見や見解を反映するものではありません。

この記事は元々Fortune.comで公開されました。