Kenyas Unternehmen müssen offenlegen, wenn Kundinnen und Kunden mit KI interagieren – neue Richtlinie
Wichtige Erkenntnisse
- •Der Richtlinienentwurf würde eine klare Offenlegung verlangen, wenn Kundinnen und Kunden direkt mit KI statt mit einem Menschen interagieren oder wenn KI eine wichtige Entscheidung wesentlich beeinflusst.
- •Die vorgeschlagenen Regeln könnten Banken, Versicherer, Telekommunikationsunternehmen, Arbeitgeber, Krankenhäuser und Medienunternehmen betreffen, die KI in kundenbezogenen oder entscheidungsrelevanten Bereichen einsetzen.
- •Kenia sagt, KI-Systeme sollten erklärbar, überprüfbar und einer menschlichen Aufsicht unterstellt sein, wobei bei Hochrisikoanwendungen die menschliche Kontrolle erhalten bleiben muss.
- •Der Vorschlag reiht Kenia in umfassendere globale Transparenzbemühungen ein, einschließlich Offenlegungspflichten in der Europäischen Union und einigen US-Jurisdiktionen.
- •Der Entwurf definiert noch nicht die Regeln für Chatbot-Benachrichtigungen, die Schwelle für wesentlichen KI-Einfluss oder Strafen bei Nichtoffenlegung.
Kenyas Unternehmen müssen Kundinnen und Kunden informieren, wenn diese auf ihren Plattformen mit Systemen der künstlichen Intelligenz (KI) interagieren, so ein Entwurf einer staatlichen Richtlinie, der für die Technologie Transparenzanforderungen einführen würde.
Die vorgeschlagene Kenya Artificial Intelligence and Other Emerging Technologies Policy sagt, Einzelpersonen „are entitled to know when an AI system is acting on them“ und verpflichtet Organisationen offen zu legen, wenn Kundinnen und Kunden direkt mit KI kommunizieren.
Falls die Regelung angenommen wird, könnte sie Banken betreffen, die KI bei Kreditentscheidungen einsetzen, Versicherer bei der Bearbeitung von Schadensfällen, Telekommunikationsunternehmen mit Kundenservice-Chatbots, Arbeitgeber bei der Prüfung von Bewerbungen, Krankenhäuser mit klinischen Entscheidungshilfen und Medienunternehmen, die KI-generierte Inhalte veröffentlichen.
„Where a person interacts directly with an AI system in place of a human, where an automated system makes or materially shapes a decision that significantly affects their rights, access to services, or legal interests, or where content presented to the public has been generated or substantially altered by AI, that fact shall be disclosed in a clear and accessible manner“, sagte die Richtlinie.
Die Maßnahmen spiegeln einen wachsenden globalen Druck für Transparenz wider, da KI-Systeme in alltägliche Dienstleistungen integriert werden. Der AI Act der Europäischen Union verlangt, dass Nutzer informiert werden, wenn sie mit bestimmten KI-Systemen interagieren, während Anbieter von KI-generierten oder manipulierten Inhalten dies in vielen Fällen klar offenlegen müssen.
In den USA haben Bundesstaaten wie Kalifornien Gesetze verabschiedet, die politische Anzeigen mit KI-generierten Inhalten zu Offenlegungen verpflichten, und mehrere Bundesbehörden haben Unternehmen davor gewarnt, Verbraucher über ihren KI-Einsatz irrezuführen.
Die Offenlegungspflicht gehört zu den klarsten verbraucherbezogenen Bestimmungen in dem 226 Seiten umfassenden Richtlinienentwurf, der Kenia von der bloßen Förderung der KI-Adoption hin zur Regulierung ihrer Nutzung in der gesamten Wirtschaft führen soll. Die Regierung sagt, der Rahmen solle Innovation mit Schutzmaßnahmen gegen Diskriminierung, undurchsichtige Entscheidungsprozesse und Missbrauch in Einklang bringen.
Aufstieg generativer KI
Der Vorschlag kommt zu einer Zeit, in der kenianische Unternehmen, darunter Banken und Versicherer, generative KI in Kundenservice, Betrugserkennung, Marketing, Programmierung und interne Abläufe integrieren. Die meisten dieser Anwendungen erfolgen ohne das Wissen der Kundinnen und Kunden, weshalb Offenlegungsregeln besonders relevant für Dienste sind, in denen sich automatisierte und menschliche Entscheidungen zunehmend vermischen.
Die Richtlinie schlägt vor, dass eingesetzte KI während ihres gesamten Lebenszyklus „explainable, auditable, and subject to human oversight“ sein soll. Außerdem soll der Mensch die Kontrolle über KI-Systeme behalten, die individuelle Rechte, Sicherheit oder den Zugang zu essenziellen Dienstleistungen betreffen.
„Humans shall retain meaningful control over systems that affect individual rights, safety, or access to essential services“, heißt es im Entwurf, der ergänzt, dass Hochrisikosysteme Mechanismen für menschliche Prüfung, Intervention und eine klare Zuweisung von Verantwortung enthalten sollten.
Der Vorstoß für mehr Transparenz ist Teil von Kenias Bemühungen, ein regionales Zentrum für KI-Governance zu werden. Im Mai unterstützte die Regierung die Africa Forward Declaration, die zu höheren Investitionen in afrikanische Recheninfrastruktur, souveräne Datensysteme und lokal entwickelte KI-Modelle aufruft; zugleich sicherte sich das Land das Recht, den 2027 Responsible AI in the Military Domain (REAIM) summit auszurichten – erstmals wird das globale Forum damit in Afrika stattfinden.
Die Richtlinie schlägt die Einrichtung eines nationalen KI-Rats und eines KI-Amts vor, um die Regulierung innerhalb der Regierung zu koordinieren und zugleich Forschung, Infrastruktur und Investitionen im Inland zu fördern.
Der Entwurf legt nicht fest, ob jede Chatbot-Interaktion eine Benachrichtigung erfordern würde, wie Unternehmen bestimmen sollen, wann KI eine Entscheidung „materially shaped“ hat, oder welche Strafen Organisationen bei unterlassener Offenlegung drohen könnten. Falls die Regelung angenommen wird, sollen diese Details voraussichtlich durch Durchführungsbestimmungen geregelt werden.