Гонка в области искусственного интеллекта набирает обороты: разработчики стремятся создавать всё более совершенные инструменты, а компании спешат их внедрить в погоне за ростом эффективности и финансовой выгодой. Однако новый отчёт EqualAI — некоммерческой организации, занимающейся продвижением ответственного управления ИИ, — предупреждает, что организации внедряют системы ИИ без адекватных механизмов управления для контроля сопутствующих рисков.

Предупреждение последовало после громкого инцидента на этой неделе, когда внутреннее тестирование моделей ИИ компанией OpenAI, разработчиком ChatGPT, привело к тому, что модели воспользовались уязвимостью в программном обеспечении, вышли из-под контроля и взломали Hugging Face — платформу, где разработчики совместно работают над кодом для моделей ИИ, — чтобы обмануть на оценке кибербезопасности. Хотя OpenAI и Hugging Face приняли меры по локализации инцидента, он продемонстрировал стремительно растущие способности моделей ИИ обходить защитные ограничения и создавать кибербезопасности угрозы. Руководители обеих компаний признали значимость произошедшего.

Генеральный директор EqualAI Мирiam Вогель, которая также возглавляет Национальный консультативный комитет США по ИИ, на этой неделе опубликовала белый документ по управлению и развёртыванию ИИ. В интервью FOX Business она заявила: «Инновации развиваются беспрецедентными темпами; проблема в том, что управление не поспевает за этими темпами».

«Мы хотим, чтобы люди осознали в связи с этим инцидентом: повсеместно нам необходимо установить более жёсткие требования, если мы хотим начать формировать доверие и гарантировать, что эти системы заслуживают нашего доверия», — сказала она.

Вогель подчеркнула, что большинство потребителей взаимодействуют с ИИ через компании, которые внедрили ИИ-решения, а не через разработчиков, создавших базовые модели. Она сослалась на данные Всемирного экономического форума, показывающие, что менее 1% компаний имеют надёжное управление системами ИИ, тогда как McKinsey в прошлом году сообщила, что менее трети компаний располагают хоть какой-либо системой управления ИИ. Этот разрыв сохраняется, даже несмотря на то, что правительства предпринимают шаги по созданию нормативных ограничений, включая Закон ЕС об ИИ и указ исполнительной власти США о безопасности ИИ, изданный в конце 2023 года.

«Мне кажется, слишком многие считают, что это проблема кого-то другого — что это проблема разработчика, или просто не понимают, что это их проблема», — сказала Вогель.

Хотя инцидент между OpenAI и Hugging Face касался компании-разработчика, Вогель отметила, что более широкая проблема управления будет разворачиваться преимущественно среди тех, кто внедряет ИИ. «Это сфера здравоохранения, финансов, социальных сетей, инфраструктуры — все прочие сферы, где [компании] используют агентный ИИ», — пояснила она. Агентный ИИ означает системы, способные предпринимать автономные действия для достижения целей, расширяя спектр решений, которые ИИ может принимать без прямого человеческого контроля.

Суды всё чаще возлагают ответственность на компании, внедряющие агентный ИИ в операциях, связанных с обслуживанием клиентов или взаимодействием с другими компаниями, а не на фирмы, разработавшие исходную модель или инструмент ИИ, сказала Вогель.

«Во многом это становится ответственностью того, кто последним работал с системой, чьи данные задействованы, чей клиент задействован. Именно они, как правило, несут ответственность», — добавила она.

Несмотря на разрыв в управлении, Вогель отметила, что среди ведущих организаций по всему миру формируется консенсус по передовым практикам ИИ. «Они пришли к этому независимо друг от друга, и действительно существует большой консенсус относительно того, какими должны быть передовые практики», — сказала она.

«Другая хорошая новость заключается в том, что большая часть этого — не rocket science, это просто лидерство и надлежащее управление, применённые к ИИ», — добавила Вогель.

В белом документе EqualAI выделяются пять основных направлений, которые компаниям следует учитывать при создании системы управления агентным ИИ. Первое — прозрачность: понимание того, какие инструменты ИИ используются в организации, поскольку руководители могут не полностью осознавать масштаб присутствия ИИ в их компании, а также связанные с этим возможности и риски. Второе — подотчётность: обеспечение чёткого распределения ответственности на всех уровнях руководства и во всех подразделениях компании.

Третий компонент — внедрение принципов ИИ на практике. Вогель объяснила, что это означает перевод принципов, изложенных в документах, в практические действия, например, создание протоколов информирования о возникающих проблемах. Этот процесс зависит от внутреннего доверия и культуры совместной ответственности внутри организации.

Четвёртый столп — создание петель обратной связи, которые могут регулярно использоваться по мере итерации и совершенствования инструментов и моделей ИИ. Это помогает организациям опережать такие проблемы, как дрейф моделей, и может принимать форму структурированного плана и регулярного графика тестирования.

Пятый и последний столп — ИИ-грамотность, которую Вогель связала с тем, что она описала как растущее общественное недоверие к ИИ. Она предупредила, что страхи начинают затмевать энтузиазм в отношении этой технологии.

«Мне думается, что это напрямую связано не только с общей инфраструктурой управления, которой не хватает в большинстве организаций, но и с этим фундаментальным элементом управления ИИ — ИИ-грамотностью», — сказала Вогель. «Большинство людей не знают, что они используют ИИ, не хотят использовать ИИ, не умеют им пользоваться».

«ИИ-грамотность — это просто ключевой фактор, обеспечивающий понимание людьми того, как использовать эту технологию, как избегать рисков, поскольку они не хотят причинить вред или создать ответственность для себя или своей организации», — продолжила она. «Крайне важно, чтобы ваши сотрудники и потребители понимали, как вы используете ИИ, как вы не будете использовать ИИ и какую пользу это может им принести».