Глава Еврокомиссии по цифровым технологиям заявила, что правила ЕС способны справиться с рисками неуправляемого ИИ
Ключевые выводы
- •Глава Еврокомиссии по цифровым технологиям Хенна Вирккунен заявила, что Европа хорошо подготовлена к решению проблем безопасности, связанных с очень мощными ИИ-моделями.
- •AI Act, принятый два года назад и являющийся одним из самых строгих законов об ИИ в мире, охватывает весь жизненный цикл ИИ-моделей и распространяется на компании, предлагающие ИИ-системы в ЕС, независимо от места их регистрации.
- •В конце августа Еврокомиссия запросила у более чем 30 ИИ-компаний данные о мерах безопасности; Вирккунен изучает ответы, которые могут стать ранним индикатором того, как ЕС будет обеспечивать соблюдение своих правил в области ИИ.
- •Регуляторы предоставляют компаниям рекомендации по оценке моделей,ывая рекомендации 60 экспертов в области ИИ.
- •CEO Anthropic Дарио Амодеи предупредил в блоге, что темпы развития ИИ слишком высоки и, если их не контролировать, могут опередить способность человечества понимать и контролировать эти системы — это обусловлено рекурсивным самоулучшением.
Глава Еврокомиссии по цифровым технологиям Хенна Вирккунен заявила, что правила ЕС в области искусственного интеллекта более чем способны справиться с вызовами безопасности, связанными с растущими возможностями ИИ-моделей, опровергая опасения, что неуправляемые ИИ-агенты могут выйти из-под контроля человека после недавних инцидентов в OpenAI и Anthropic. Эти высказывания подчеркивают напряженность между уверенностью регуляторов в существующих механизмах защиты и предупреждениями из самой индустрии о том, что темпы развития ИИ могут превзойти человеческий контроль.
«Мы видим, что безопасность и защищенность очень мощных моделей — очень актуальная тема на международном уровне, и мы в Европе хорошо к этому подготовлены», — заявила Вирккунен в интервью Reuters, опубликованном в пятницу.
Вирккунен также отвергла критику тех, кто утверждает, что правила ЕС в области ИИ устарели. AI Act, регулирующий искусственный интеллект на основе уровня риска, является одним из самых строгих законов об ИИ в мире, однако был принят два года назад. Закон распространяется на компании, предлагающие ИИ-системы в ЕС, независимо от места их регистрации.
«У нас есть AI Act, и он охватывает весь жизненный цикл этих моделей», — сказала она, добавив, что регуляторы предоставляют компаниям рекомендации по оценке моделей с учетом рекомендаций 60 экспертов в области ИИ.
В конце августа Еврокомиссия запросила информацию у более чем 30 не названных ИИ-компаний, попросив предоставить подробности об их мерах безопасности и защиты. Вирккунен сообщила, что в настоящее время изучает ответы, результаты которых могут стать ранним индикатором того, как ЕС будет обеспечивать соблюдение своих правил в области ИИ.
Её комментарии прозвучали после предупреждений из самой индустрии. Как сообщал Cointelegraph 13 сентября, CEO Anthropic Дарио Амодеи заявил в блоге, что темпы развития ИИ слишком высоки и, если их не контролировать, они могут «опередить нашу способность понимать и контролировать эти системы». По его словам, стремительный прогресс ИИ обусловлен его собственной растущей способностью создавать следующее поколение ИИ — динамика, известная как рекурсивное самоулучшение. Заявления были опубликованы в посте на его личном сайте.
Источник: Cointelegraph
