Las empresas kenianas deberán divulgar cuando los clientes interactúen con IA bajo una nueva política
Puntos clave
- •El borrador de política exigiría una divulgación clara cuando un cliente interactúe directamente con IA en lugar de una persona, o cuando la IA influya de forma material en una decisión importante.
- •Las reglas propuestas podrían afectar a bancos, aseguradoras, telecomunicaciones, empleadores, hospitales y medios que usan IA en funciones de atención al cliente o de toma de decisiones.
- •Kenia dice que los sistemas de IA deben ser explicables, auditables y estar sujetos a supervisión humana, con control humano significativo en usos de alto riesgo.
- •La propuesta alinea a Kenia con esfuerzos globales de transparencia, incluidas reglas de divulgación en la Unión Europea y en algunas jurisdicciones de Estados Unidos.
- •El borrador aún no define las notificaciones para chatbots, el umbral de influencia material de la IA ni las sanciones por no divulgar.
Las empresas kenianas deberán informar a los clientes cuando interactúen con sistemas de inteligencia artificial (IA) en sus plataformas, de acuerdo con un borrador de política gubernamental que introduciría requisitos de transparencia para la tecnología.
La propuesta de la Kenya Artificial Intelligence and Other Emerging Technologies Policy afirma que las personas “are entitled to know when an AI system is acting on them” y exige a las organizaciones divulgar cuando los clientes se comunican directamente con IA.
Si se adopta, los requisitos podrían afectar a bancos que usan IA en decisiones de crédito, aseguradoras que procesan reclamos, empresas de telecomunicaciones que operan chatbots de atención al cliente, empleadores que filtran candidatos, hospitales que usan herramientas de apoyo a decisiones clínicas y medios que publican contenido generado por IA.
“Where a person interacts directly with an AI system in place of a human, where an automated system makes or materially shapes a decision that significantly affects their rights, access to services, or legal interests, or where content presented to the public has been generated or substantially altered by AI, that fact shall be disclosed in a clear and accessible manner,” dijo la política.
Las medidas reflejan un impulso global creciente por la transparencia a medida que los sistemas de IA se integran en los servicios cotidianos. La AI Act de la Unión Europea exige informar a los usuarios cuando interactúan con ciertos sistemas de IA, mientras que los proveedores de contenido generado o manipulado por IA deben divulgarlo claramente en muchos casos.
En Estados Unidos, estados como California han aprobado leyes que exigen que los anuncios políticos que contengan contenido generado por IA incluyan divulgaciones, y varias agencias federales han advertido a las empresas contra inducir a error a los consumidores sobre su uso de IA.
El requisito de divulgación es una de las disposiciones más claras para el consumidor en el borrador de política de 226 páginas, que busca llevar a Kenia más allá de promover la adopción de IA y regular su uso en toda la economía. El gobierno afirma que el marco pretende equilibrar la innovación con salvaguardas contra la discriminación, la toma de decisiones opaca y el abuso.
Auge de la IA generativa
La propuesta llega en un momento en que empresas kenianas, incluidas bancos y aseguradoras, están incorporando IA generativa en la atención al cliente, la detección de fraudes, el marketing, la programación y las operaciones internas. La mayoría de estos usos se realizan sin el conocimiento de los clientes.
La política propone que la IA desplegada sea “explainable, auditable, and subject to human oversight” durante todo su ciclo de vida. También señala que las personas deben conservar el control sobre los sistemas de IA que afectan derechos individuales, la seguridad o el acceso a servicios esenciales.
“Humans shall retain meaningful control over systems that affect individual rights, safety, or access to essential services,” indicó el borrador, y añadió que los sistemas de alto riesgo deben incluir mecanismos que permitan revisión humana, intervención y una asignación clara de responsabilidades.
El impulso por la transparencia forma parte del esfuerzo de Kenia por convertirse en un centro regional de gobernanza de IA. En mayo, el gobierno respaldó la Africa Forward Declaration, que pide mayor inversión en infraestructura africana de cómputo, sistemas soberanos de datos y modelos de IA desarrollados localmente, al tiempo que aseguró el derecho a albergar la cumbre 2027 Responsible AI in the Military Domain (REAIM), la primera vez que el foro global se celebrará en África.
La política propone crear un consejo nacional de IA y una oficina de IA para coordinar la regulación en todo el gobierno, al tiempo que promueve la investigación, la infraestructura y la inversión nacionales.
El borrador no especifica si toda interacción con un chatbot requeriría una notificación, cómo deberían determinar las empresas cuándo la IA ha “materially shaped” una decisión ni qué sanciones podrían enfrentar las organizaciones por no divulgar el uso de IA. Si se adopta, se espera que esos detalles se aborden mediante regulaciones de implementación.