Кенийские компании должны раскрывать факт взаимодействия клиентов с ИИ по новой политике
Ключевые выводы
- •Проект политики потребует чёткого раскрытия, когда клиент взаимодействует напрямую с ИИ вместо человека или когда ИИ существенно формирует важное решение.
- •Предлагаемые правила могут затронуть банки, страховщиков, телеком-компании, работодателей, больницы и медиа, использующие ИИ в клиентских или решающих процессах.
- •Кения заявляет, что ИИ-системы должны быть объяснимыми, поддающимися аудиту и находиться под человеческим надзором, при этом значимый человеческий контроль должен сохраняться за высокорисковыми случаями использования.
- •Предложение сближает Кению с более широкими глобальными усилиями по прозрачности, включая правила раскрытия информации в Европейском союзе и некоторых юрисдикциях США.
- •В проекте пока не определены правила уведомлений о чат-ботах, порог существенного влияния ИИ и санкции за нераскрытие информации.
Кенийские компании должны информировать клиентов, когда те взаимодействуют с системами искусственного интеллекта (AI) на их платформах, согласно проекту государственной политики, который введёт требования к прозрачности этой технологии.
В предлагаемой Kenya Artificial Intelligence and Other Emerging Technologies Policy говорится, что люди «имеют право знать, когда ИИ-система действует в отношении них», и от организаций требуется раскрывать информацию, когда клиенты напрямую общаются с ИИ.
В случае принятия эти требования могут затронуть банки, использующие ИИ при кредитных решениях, страховщиков, обрабатывающих страховые претензии, телеком-компании, работающие с чат-ботами службы поддержки, работодателей, отбирающих кандидатов на вакансии, больницы, использующие инструменты клинической поддержки принятия решений, а также медиакомпании, публикующие контент, созданный ИИ.
«Если человек взаимодействует напрямую с ИИ-системой вместо человека, если автоматизированная система принимает или существенно формирует решение, которое значительно влияет на их права, доступ к услугам или юридические интересы, либо если контент, представленный общественности, был создан или существенно изменён ИИ, этот факт должен быть раскрыт ясно и доступно», — говорится в политике.
Эти меры отражают растущие глобальные усилия по повышению прозрачности по мере того, как ИИ-системы становятся частью повседневных услуг. Закон Европейского союза об ИИ требует информировать пользователей при взаимодействии с определёнными ИИ-системами, а поставщики контента, созданного или изменённого ИИ, во многих случаях должны явно раскрывать это.
В США штаты, включая Калифорнию, приняли законы, требующие от политической рекламы, содержащей контент, созданный ИИ, сопровождаться раскрытием информации, а несколько федеральных ведомств предупреждали компании против введения потребителей в заблуждение относительно использования ИИ.
Требование раскрытия информации — одно из наиболее чётких положений проекта на 226 страниц, который стремится перевести Кению от поощрения внедрения ИИ к регулированию его использования в экономике. Правительство заявляет, что рамка призвана сочетать инновации с защитой от дискриминации, непрозрачного принятия решений и злоупотреблений.
Рост генеративного ИИ
Предложение появилось в момент, когда кенийские компании, включая банки и страховщиков, внедряют генеративный ИИ в поддержку клиентов, выявление мошенничества, маркетинг, программирование и внутренние операции. Большая часть этого происходит без ведома клиентов.
В политике предлагается, чтобы применяемый ИИ был «объяснимым, поддающимся аудиту и находящимся под человеческим надзором» на протяжении всего жизненного цикла. Также говорится, что люди должны сохранять контроль над ИИ-системами, влияющими на индивидуальные права, безопасность или доступ к основным услугам.
«Люди должны сохранять значимый контроль над системами, влияющими на индивидуальные права, безопасность или доступ к основным услугам», — говорится в проекте, где также добавляется, что системы высокого риска должны включать механизмы, позволяющие проводить человеческую проверку, вмешательство и чёткое распределение ответственности.
Этот курс на прозрачность является частью стремления Кении стать региональным центром управления ИИ. В мае правительство поддержало Africa Forward Declaration, которая призывает к увеличению инвестиций в африканскую вычислительную инфраструктуру, суверенные системы данных и локально разработанные модели ИИ, а также обеспечило право принять в 2027 году саммит Responsible AI in the Military Domain (REAIM), впервые в Африке.
Политика предлагает создать национальный совет по ИИ и офис по ИИ, чтобы координировать регулирование по всему правительству, одновременно поощряя внутренние исследования, инфраструктуру и инвестиции.
В проекте не указано, потребуется ли уведомление при каждом взаимодействии с чат-ботом, как компаниям следует определять, когда ИИ «существенно сформировал» решение, или какие санкции могут грозить организациям за нераскрытие использования ИИ. В случае принятия эти детали, как ожидается, будут урегулированы в подзаконных актах.