Нью-Йорк превращает регулирование ИИ в систему денежного вознаграждения. Спикер городского совета Джули Менин 25 сентября представила пакет законопроектов о надзоре за искусственным интеллектом, включающий положение о выплате информаторам процента от штрафов, взысканных с ИИ-компаний, уличённых в нарушении правил.

Что содержит пакет

Хотя наибольшее внимание привлекает стимул для информаторов, он является частью куда более масштабной законодательной инициативы. Согласно законопроектам, для несоответствующих требованиям ИИ-систем станут обязательными «аварийные выключатели» под контролем человека, то есть реальный человек должен иметь возможность отключить систему, если алгоритм выходит из-под контроля. Также обязательными станут сторонние аудиты безопасности, а штрафы за нарушения могут достигать 25 000 долларов за каждое нарушение. Поскольку любая выплата информатору представляет собой долю фактически взысканных штрафов, этот потолок санкций фактически задаёт верхний предел возможных вознаграждений.

Другой законопроект пакета расширяет юридические права лиц, пострадавших от ИИ, открывая возможность подавать иски непосредственно к разработчикам.

Весь пакет будет вынесен на обсуждение на слушаниях городского совета 5 октября, в которых, как ожидается, примут участие все 51 членов совета — то есть весь состав. Главным исполнительным директорам известных ИИ-компаний направлены приглашения.

Канал для информаторов уже открыт

Шаг городского совета не стал неожиданностью. За восемь дней до этого, 17 сентября, генеральный прокурор Нью-Йорка Летитция Джеймс запустила специальный портал для информаторов из числа сотрудников ИИ-компаний. Портал даёт работникам ИИ-компаний официальный канал для сообщений о небезопасных или вредных практиках. Предлагаемое вознаграждение даст тем же сотрудникам прямой финансовый интерес в правоприменении, поскольку выплаты формируются из штрафов, взысканных с нарушивших правила компаний.

Почему Нью-Йорк и почему сейчас

Нью-Йорк имеет долгую историю испытания жёсткого местного регулирования до появления федеральных рамок. Принятый в 2023 году закон Local Law 144, требующий аудита на предвзятость инструментов найма на основе ИИ, стал одним из первых в стране нормативных актов, специально посвящённых ИИ.

Новый пакет идёт значительно дальше. Если закон о найме был нацелен один конкретный сценарий использования, то предлагаемое законодательство стремится создать общий механизм надзора за ИИ-системами, работающими в черте города. Сочетание «аварийных выключателей», требований аудита, права частных исков и вознаграждений для информаторов говорит о том, что законодатели стремятся выстроить целостную регуляторную архитектуру.

Что это значит для отрасли

Для ИИ-компаний, работающих в Нью-Йорке, нагрузка по соблюдению требований заметно вырастет. Сторонние аудиты стоят денег, а требования об «аварийных выключателях» могут потребовать изменений в архитектуре развёрнутых систем.

Положение о праве частных исков может оказаться самым значимым для корпоративной ответственности. В настоящее время, если ИИ-система отказывает человеку в жилье, страховке или трудоустройстве на основе ошибочной логики, у пострадавшего зачастую ограничены возможности юридической защиты. Разрешение прямых исков к разработчикам меняет экономику применения ИИ в критически важных сферах.

Следующая контрольная точка наступит 5 октября, когда законопроекты предстанут перед полным составом совета — с участием приглашённых руководителей компаний, которые они призваны регулировать.