根据一项拟议的政府政策，肯尼亚企业必须在客户与其平台上的人工智能（AI）系统互动时告知客户，该政策将为这项技术引入透明度要求。

拟议的《肯尼亚人工智能及其他新兴技术政策》称，个人“有权知道 AI 系统何时在对其发挥作用”，并要求机构在客户直接与 AI 交流时进行披露。

如果获得通过，这些要求可能影响在信贷决策中使用 AI 的银行、处理理赔的保险公司、运营客户服务聊天机器人的电信公司、筛选求职者的雇主、使用临床决策支持工具的医院，以及发布 AI 生成内容的媒体公司。

该政策指出：“当个人直接与一个 AI 系统互动，而该系统替代了人类；当自动化系统作出或实质性影响了一个会显著影响其权利、获得服务的机会或法律利益的决定；或当向公众展示的内容由 AI 生成或被 AI 实质性修改时，应以清晰且易于获取的方式披露这一事实。”

这些措施反映出随着 AI 系统嵌入日常服务，全球对透明度的要求正在上升。欧洲联盟的《AI 法案》要求用户在与某些 AI 系统互动时获得通知，而在许多情况下，AI 生成或被操纵内容的提供者也必须明确披露。

在美国，包括加利福尼亚州在内的多个州已通过法律，要求含有 AI 生成内容的政治广告作出披露，且多个联邦机构已警告企业不要误导消费者有关其使用 AI 的情况。

披露要求是这份 226 页草案中最明确面向消费者的条款之一。该草案旨在推动肯尼亚从鼓励 AI 采用，转向在整个经济领域对其使用进行监管。政府表示，该框架旨在在创新与防止歧视、不透明决策和滥用之间取得平衡。

生成式 AI 的兴起

这项提案出台之际，肯尼亚企业，包括银行和保险公司，正在将生成式 AI 嵌入客户支持、欺诈检测、营销、编码和内部运营中。其中大多数用途都在客户不知情的情况下进行，这使得披露规则对于日益融合自动化与人工决策的服务尤为重要。

该政策建议，部署的 AI 在其整个生命周期内应当“可解释、可审计，并接受人类监督”。它还表示，人类应保留对影响个人权利、安全或获得基本服务的 AI 系统的控制权。

草案写道：“人类应对影响个人权利、安全或获得基本服务的系统保留有意义的控制权”，并补充说，高风险系统应包含允许人工审查、干预以及明确责任分配的机制。

这场透明度推进是肯尼亚努力成为区域 AI 治理中心的一部分。今年 5 月，政府支持了《Africa Forward Declaration》，该声明呼吁加大对非洲算力基础设施、主权数据系统和本地开发 AI 模型的投资，同时还争取主办 2027 年 Responsible AI in the Military Domain (REAIM) 峰会，这是该全球论坛首次在非洲举行。

该政策提议设立一个国家 AI 委员会和一个 AI 办公室，以协调政府各部门的监管，同时推动本土研究、基础设施和投资。

草案并未说明每一次聊天机器人互动是否都需要通知、企业应如何判断 AI 何时“实质性影响”了一项决定，或组织在未披露 AI 使用时可能面临何种处罚；如果获得通过，这些细节预计将通过实施性法规加以规定。