Le aziende keniane dovranno comunicare quando i clienti interagiscono con l’AI secondo la nuova politica
Punti chiave
- •La bozza di politica richiederebbe una chiara divulgazione quando un cliente interagisce direttamente con l’AI invece che con una persona, o quando l’AI influenza in modo sostanziale una decisione importante.
- •Le regole proposte potrebbero riguardare banche, assicurazioni, telecomunicazioni, datori di lavoro, ospedali e media che usano l’AI in ruoli rivolti ai clienti o nei processi decisionali.
- •Il Kenya afferma che i sistemi di AI dovrebbero essere spiegabili, verificabili e soggetti a supervisione umana, con un controllo umano significativo mantenuto sugli usi ad alto rischio.
- •La proposta allinea il Kenya agli sforzi globali per la trasparenza, comprese le regole di disclosure nell’Unione Europea e in alcune giurisdizioni statunitensi.
- •La bozza non specifica ancora le regole di notifica per i chatbot, la soglia per l’influenza sostanziale dell’AI o le sanzioni per la mancata divulgazione.
Le aziende keniane dovranno informare i clienti quando interagiscono con sistemi di intelligenza artificiale (AI) sulle loro piattaforme, in base a una bozza di politica governativa che introdurrebbe requisiti di trasparenza per questa tecnologia.
La proposta Kenya Artificial Intelligence and Other Emerging Technologies Policy afferma che le persone “are entitled to know when an AI system is acting on them” e richiede alle organizzazioni di comunicare quando i clienti stanno interagendo direttamente con l’AI.
Se adottati, i requisiti potrebbero riguardare le banche che utilizzano l’AI nelle decisioni sul credito, le assicurazioni che elaborano i sinistri, le telecomunicazioni che gestiscono chatbot per il servizio clienti, i datori di lavoro che selezionano candidati, gli ospedali che usano strumenti di supporto alle decisioni cliniche e le società dei media che pubblicano contenuti generati dall’AI.
“Where a person interacts directly with an AI system in place of a human, where an automated system makes or materially shapes a decision that significantly affects their rights, access to services, or legal interests, or where content presented to the public has been generated or substantially altered by AI, that fact shall be disclosed in a clear and accessible manner,” ha affermato la politica.
Le misure rispecchiano una spinta globale crescente verso la trasparenza, mentre i sistemi di AI diventano parte dei servizi quotidiani. L’AI Act dell’Unione Europea richiede che gli utenti siano informati quando interagiscono con determinati sistemi di AI, mentre in molti casi i fornitori di contenuti generati o manipolati dall’AI devono renderlo chiaramente noto.
Negli Stati Uniti, stati tra cui la California hanno approvato leggi che impongono alle pubblicità politiche contenenti contenuti generati dall’AI di includere una disclosure, e diverse agenzie federali hanno avvertito le aziende di non fuorviare i consumatori sull’uso dell’AI.
L’obbligo di divulgazione è una delle disposizioni più chiare rivolte ai consumatori nella bozza di 226 pagine, che mira a spostare il Kenya oltre la semplice promozione dell’adozione dell’AI verso la regolamentazione del suo utilizzo in tutta l’economia. Il governo afferma che il quadro intende bilanciare innovazione e tutele contro discriminazione, processi decisionali opachi e abusi.
Ascesa dell’AI generativa
La proposta arriva mentre le imprese keniane, comprese banche e assicurazioni, stanno integrando l’AI generativa nel supporto clienti, nella prevenzione delle frodi, nel marketing, nella programmazione e nelle operazioni interne. La maggior parte di questi impieghi avviene senza che i clienti ne siano a conoscenza, rendendo le regole di disclosure particolarmente rilevanti per servizi che combinano sempre più processi decisionali automatizzati e umani.
La politica propone che l’AI distribuita sia “explainable, auditable, and subject to human oversight” per tutto il suo ciclo di vita. Afferma inoltre che gli esseri umani dovrebbero mantenere il controllo sui sistemi di AI che incidono sui diritti individuali, sulla sicurezza o sull’accesso ai servizi essenziali.
“Humans shall retain meaningful control over systems that affect individual rights, safety, or access to essential services,” ha dichiarato la bozza, aggiungendo che i sistemi ad alto rischio dovrebbero includere meccanismi che consentano revisione umana, intervento e chiara attribuzione delle responsabilità.
La spinta alla trasparenza fa parte dell’impegno del Kenya a diventare un centro regionale per la governance dell’AI. A maggio, il governo ha sostenuto la Africa Forward Declaration, che chiede maggiori investimenti in infrastrutture di calcolo africane, sistemi di dati sovrani e modelli di AI sviluppati localmente, assicurandosi anche il diritto di ospitare il vertice 2027 Responsible AI in the Military Domain (REAIM), la prima volta che il forum globale si terrà in Africa.
La politica propone la creazione di un consiglio nazionale per l’AI e di un ufficio per l’AI per coordinare la regolamentazione a livello governativo, promuovendo al contempo ricerca, infrastrutture e investimenti domestici.
La bozza non specifica se ogni interazione con un chatbot richiederebbe una notifica, come le aziende dovrebbero stabilire quando l’AI ha “materially shaped” una decisione, o quali sanzioni potrebbero affrontare le organizzazioni per non aver divulgato l’uso dell’AI. Se adottati, tali dettagli dovrebbero essere affrontati tramite norme di attuazione.