EUのテック担当委員ヘンナ・ヴィルクネン氏は、能力が高まり続けるAIモデルがもたらす安全性の課題に対し、EUの人工知能に関する規則で十分に対応できるとの見解を示した。OpenAIとAnthropicでの最近のインシデントを受け、暴走したAIエージェントが人間の制御を逸脱するのではないかとの懸念が広がる中での発言であり、既存の安全策に対する規制当局の自信と、AI開発の速度が人間の制御を超える可能性があるとする業界内からの警告との間の緊張を浮き彫りにしている。

「非常に高い能力を持つモデルの安全性とセキュリティは、国際的に非常に注目されるトピックであり、欧州はそのために十分な備えがある」とヴィルクネン氏は、金曜日に公開されたロイターとのインタビューで述べた。

ヴィルクネン氏はまた、EUのAI規則が時代遅れだと主張する批判者を退けた。リスクの度合いに応じて人工知能を規制するEUのAI法は、世界で最も厳しいAI規制の一つだが、採択は2年前だった。この法律は、本社の場所に関わらず、EU域内でAIシステムを提供する企業に適用される。

「我々にはAI法があり、AI法はこれらのモデルのライフサイクル全体をカバーしている」と同氏は述べ、規制当局が60名のAI専門家の推奨事項を踏まえ、企業にモデルの評価方法に関するガイダンスを提供していると付け加えた。

欧州委員会は8月末、特定されていない30社を超えるAI企業に情報提供を求め、安全・セキュリティ対策の詳細を照会した。ヴルクネン氏は現在、回答を精査中であり、その結果はEUがAI規則をどのように執行するかの初期の指標となる可能性がある。

同氏の発言は、業界自身からの警告に続くものだ。Cointelegraphは9月13日、AnthropicのCEOダリオ・アモデイ氏がブログ投稿で、AI開発の速度は速すぎるとし、放置すれば「これらのシステムを理解し制御する我々の能力を追い越す」可能性があると述べたと報じた。同氏は、AIの急速な進歩は、次世代のAIを構築するAI自身の能力の向上、いわゆる再帰的自己改善によって推進されていると述べた。この発言は、彼個人のウェブサイトに公開された投稿に現れた。

出典:Cointelegraph