人工知能（AI）をめぐる競争は激化している。開発者はより高性能なツールの構築を進め、企業は効率性の向上と財務的な利益を求めて導入を急いでいる。しかし、責任あるAIガバナンスの推進に重点を置く非営利団体EqualAIの新たな報告書は、組織が関連リスクを管理するための十分なガバナンス体制を整えないままAIシステムを導入していると警告している。

この警告は、今週発生した注目度の高い事案を受けたものだ。ChatGPTを手がけるOpenAIによるAIモデルの内部テストで、モデルがソフトウェアの欠陥を悪用し、封じ込めを逃れ、AIモデルのコードについて開発者が共同作業するプラットフォームであるHugging Faceに侵入し、サイバーセキュリティ評価で不正を行った。OpenAIとHugging Faceはこの事案を封じ込めたものの、AIモデルがガードレールを回避し、サイバーセキュリティ上の脅威を生み出す能力を急速に拡大させていることを浮き彫りにした。両社の幹部は、発生した事態の重大性を認めた。

EqualAIのCEOで、U.S. National AI Advisory Committeeの議長も務めるMiriam Vogel氏は、今週AIガバナンスと導入に関するホワイトペーパーを公表した。同氏はFOX Businessに対し、「Innovation is going at an unprecedented pace; the problem is governance is not matching that pace.」と述べた。

同氏はまた、「What we want to make sure people recognize from this incident is, across the board, we need to have stronger expectations in place if we're going to start to build trust and ensure these systems deserve our trust,」と語った。

Vogel氏は、ほとんどの消費者がAIと接点を持つのは、基盤モデルを構築した開発者を通じてではなく、AIソリューションを導入した企業を通じてだと強調した。同氏は、World Economic Forumの調査結果として、AIシステムに強固なガバナンスを整えている企業は1%未満であり、McKinseyも昨年、何らかのAIガバナンス体制を持つ企業は3分の1未満だと報告したことを引用した。各国政府が規制上のガードレール整備を進める中でも、このギャップは残っている。例として、European Union's AI Actや、2023年後半に発令されたAI安全性に関する米国の大統領令がある。

Vogel氏は、「I think too many people are assuming it's someone else's problem, you know, that it's the developer's problem or just not understanding that this is their problem,」と述べた。

OpenAIとHugging Faceの事案は開発企業に関わるものだったが、Vogel氏は、より広範なガバナンス上の課題は主に導入企業の間で表面化すると指摘した。同氏は「It's with the healthcare, finance, social media, infrastructure—all the other ways [companies are] using agentic AI,」と説明した。エージェント型AIとは、目標達成に向けて自律的な行動を取ることができるシステムを指し、人間による直接的な監督なしにAIが下せる判断の範囲を広げるものだ。

Vogel氏によると、裁判所は、元となるAIモデルやツールを開発した企業ではなく、顧客向けまたは企業向けの業務でエージェント型AIを導入した企業に責任を適用する傾向を強めている。

同氏は、「A lot of this becomes the liability of the person who had the last touch on it, whose data is involved, whose customer is involved. They are often the one who owns the liability,」と付け加えた。

ガバナンスの不足がある一方で、Vogel氏は、AIのベストプラクティスについて世界の主要組織の間で合意が形成されつつあると述べた。同氏は「They've all come to this independently, and there is really a lot of consensus on what the best practices are,」と語った。

さらにVogel氏は、「The other thing that's good news is most of this is not rocket science, it's leadership and good governance just applied to AI,」と述べた。

EqualAIのホワイトペーパーは、企業がエージェント型AIのガバナンスを確立する際に取り組むべき5つの主要分野を示している。第1は可視性、すなわち組織全体でどのAIツールが使われているかを把握することだ。経営層が自社のAI利用状況や、それがもたらす機会とリスクを十分に理解していない可能性があるためである。第2は説明責任であり、経営階層や事業部門をまたいで責任を明確にすることを意味する。

第3の要素は、AI原則の実務化である。Vogel氏は、これは文書に示された原則を、発生した問題についての連絡手順を整備するなど、実践的な行動に移すことを意味すると説明した。このプロセスは、組織内の信頼と、責任を共有する文化に依存している。

第4の柱は、AIツールやモデルが反復的に改良・改善される中で、継続的に活用できるフィードバックループを確立することだ。これにより、組織はモデルドリフトのような問題を先取りしやすくなり、定期的なテストのための体系的な計画と実施サイクルという形を取り得る。

第5かつ最後の柱はAIリテラシーであり、Vogel氏はこれを、同氏が高まるAIへの公衆の不信と表現した状況に結び付けた。同氏は、AI技術への期待よりも懸念が目立ち始めていると警告した。

Vogel氏は、「I think that squarely lands not only on the overall governance infrastructure that's lacking in most organizations, but this fundamental piece of AI governance which is AI literacy,」と述べた。「Most people don't know that they're using AI, they don't want to use AI, don't know how to use it.」

同氏は続けて、「AI literacy is just a key variable in making sure people understand how to use it, that they know how to avoid risks because they don't want to cause harm or bring a liability for themselves or their organization,」と述べた。「Making sure that your workforce and your consumers understand how you're using AI, how you will not be using AI, and how it can benefit them is a key variable.」