Les entreprises kenyanes devront informer leurs clients lorsqu’ils interagissent avec des systèmes d’intelligence artificielle (IA) sur leurs plateformes, dans le cadre d’un projet de politique gouvernementale qui introduirait des exigences de transparence pour cette technologie.

La proposition de Kenya Artificial Intelligence and Other Emerging Technologies Policy indique que les individus « ont le droit de savoir lorsqu’un système d’IA agit sur eux » et oblige les organisations à divulguer lorsque les clients communiquent directement avec une IA.

Si elle est adoptée, cette exigence pourrait concerner les banques qui utilisent l’IA dans les décisions de crédit, les assureurs qui traitent des sinistres, les opérateurs télécoms qui déploient des chatbots de service client, les employeurs qui évaluent des candidatures, les hôpitaux qui utilisent des outils d’aide à la décision clinique, et les médias qui publient des contenus générés par l’IA.

« Lorsqu’une personne interagit directement avec un système d’IA à la place d’un être humain, lorsqu’un système automatisé prend ou façonne de manière significative une décision qui affecte sensiblement ses droits, son accès aux services ou ses intérêts juridiques, ou lorsque le contenu présenté au public a été généré ou substantiellement modifié par l’IA, ce fait doit être divulgué de manière claire et accessible », précise la politique.

Ces mesures reflètent une tendance mondiale croissante en faveur de la transparence à mesure que les systèmes d’IA s’intègrent dans les services du quotidien. L’AI Act de l’Union européenne exige que les utilisateurs soient informés lorsqu’ils interagissent avec certains systèmes d’IA, tandis que les fournisseurs de contenus générés ou manipulés par l’IA doivent, dans de nombreux cas, les divulguer clairement.

Aux États-Unis, des États comme la Californie ont adopté des lois exigeant que les publicités politiques contenant du contenu généré par l’IA comportent des mentions de divulgation, et plusieurs agences fédérales ont averti les entreprises contre toute présentation trompeuse de leur usage de l’IA.

L’exigence de divulgation figure parmi les dispositions les plus explicites à l’intention des consommateurs dans ce projet de 226 pages, qui vise à faire passer le Kenya d’une logique de promotion de l’adoption de l’IA à une logique de régulation de son usage dans l’ensemble de l’économie. Le gouvernement affirme que le cadre est conçu pour équilibrer innovation et garanties contre la discrimination, les décisions opaques et les abus.

L’essor de l’IA générative

Cette proposition intervient à un moment où des entreprises kenyanes, notamment des banques et des assureurs, intègrent l’IA générative dans le service client, la détection de fraudes, le marketing, le codage et les opérations internes. La plupart de ces usages se font à l’insu des clients.

La politique propose que l’IA déployée soit « explicable, vérifiable et soumise à une supervision humaine » tout au long de son cycle de vie. Elle indique également que les humains doivent conserver le contrôle sur les systèmes d’IA qui affectent les droits individuels, la sécurité ou l’accès aux services essentiels.

« Les êtres humains conserveront un contrôle réel sur les systèmes qui affectent les droits individuels, la sécurité ou l’accès aux services essentiels », précise le projet, en ajoutant que les systèmes à haut risque doivent inclure des mécanismes permettant une revue humaine, une intervention humaine et une attribution claire des responsabilités.

Cette poussée en faveur de la transparence s’inscrit dans l’effort du Kenya pour devenir un centre régional de gouvernance de l’IA. En mai, le gouvernement a soutenu la Africa Forward Declaration, qui appelle à davantage d’investissements dans les infrastructures de calcul africaines, les systèmes de données souverains et les modèles d’IA développés localement, tout en obtenant le droit d’accueillir le sommet 2027 Responsible AI in the Military Domain (REAIM), ce qui fera de l’Afrique le continent hôte de ce forum mondial pour la première fois.

La politique propose de créer un conseil national de l’IA et un bureau de l’IA afin de coordonner la réglementation au sein de l’État tout en stimulant la recherche, les infrastructures et l’investissement nationaux.

Le projet ne précise pas si chaque interaction avec un chatbot nécessiterait une notification, comment les entreprises devraient déterminer quand l’IA a « façonné de manière significative » une décision, ni quelles sanctions pourraient être imposées aux organisations en cas de non-divulgation de l’usage de l’IA. S’il est adopté, ces détails devraient être définis par des réglementations d’application.