ケニア企業は、政府が策定中の草案に基づき、自社のプラットフォーム上で人工知能（AI）システムと顧客がやり取りする際には、その事実を顧客に通知しなければならない。この政策は、当該技術に透明性要件を導入するものだ。

提案されている Kenya Artificial Intelligence and Other Emerging Technologies Policy は、個人は「AIシステムが自分に対して作用していると知る権利がある」とし、顧客がAIと直接コミュニケーションしている場合には組織に開示を求める。

採択されれば、この要件は、信用判断にAIを使う銀行、請求処理を行う保険会社、カスタマーサービスのチャットボットを運用する通信会社、求職者を選考する雇用主、臨床意思決定支援ツールを使う病院、AI生成コンテンツを掲載するメディア企業などに影響を及ぼす可能性がある。

「人間の代わりにAIシステムと直接やり取りする場合、自動化システムが個人の権利、サービスへのアクセス、または法的利益に重大な影響を与える判断を行う、または実質的に形成する場合、あるいは公衆に提示されるコンテンツがAIによって生成された、もしくは大幅に改変された場合、その事実は明確かつアクセスしやすい方法で開示されなければならない」と政策は述べた。

こうした措置は、AIシステムが日常的なサービスに組み込まれるにつれて強まる、世界的な透明性向上の動きと一致する。欧州連合の AI Act は、特定のAIシステムとやり取りする際に利用者へ通知することを求めており、AI生成または操作されたコンテンツの提供者にも、多くの場合、明確な開示を求めている。

米国では、カリフォルニア州を含む複数の州が、AI生成コンテンツを含む政治広告に開示を義務づける法律を成立させており、複数の連邦機関も、AIの利用について消費者を誤解させないよう企業に警告している。

この開示要件は、226ページに及ぶ草案の中でも最も明確な消費者向け条項の一つであり、ケニアをAI導入の促進から、経済全体での利用規制へと進めることを目指している。政府は、この枠組みが、イノベーションと差別、不透明な意思決定、乱用に対する安全策とのバランスを取ることを意図していると述べている。

生成AIの拡大

この提案は、銀行や保険会社を含むケニアの企業が、顧客対応、不正検知、マーケティング、コーディング、社内業務に生成AIを組み込んでいる時期に出された。これらの多くは顧客に知られないまま行われている。

政策は、導入されるAIが、そのライフサイクル全体を通じて「説明可能で、監査可能であり、人による監督の対象である」べきだと提案している。また、人の権利、安全、または基礎的サービスへのアクセスに影響するAIシステムについては、人間が統制を維持すべきだともしている。

「人間は、個人の権利、安全、または基礎的サービスへのアクセスに影響するシステムについて、実質的な統制を維持しなければならない」と草案は述べ、高リスクシステムには、人による確認、介入、責任の明確な割り当てを可能にする仕組みを含めるべきだと付け加えた。

この透明性強化の動きは、ケニアがAIガバナンスの地域拠点を目指す取り組みの一環でもある。政府は5月、アフリカの計算基盤、主権的データシステム、現地開発のAIモデルへの投資拡大を求める Africa Forward Declaration を支持するとともに、2027年 Responsible AI in the Military Domain (REAIM) summit の開催権を確保した。これは、この世界的フォーラムがアフリカで開かれる初めての例となる。

政策は、政府全体の規制を調整しつつ、国内の研究、インフラ、投資を促進するため、国家AI評議会とAI कार्यालयを設けることを提案している。

草案は、すべてのチャットボットとのやり取りに通知が必要かどうか、企業がAIがどの時点で「実質的に判断を形成した」と判断すべきか、AI利用を開示しなかった場合に組織がどのような罰則を受ける可能性があるかについては明記していない。採択された場合、これらの詳細は実施規則で定められる見込みだ。