バーニー・サンダース上院議員(バーモント州選出・無所属)とグレッグ・キャサー下院議員(テキサス州選出・民主党)は木曜日、人工超知能を恒久的に禁止し、先進的なAI開発を一時停止する法案を発表しました。違反者には最大20年の懲役刑が科されます。

人工超知能禁止法は、新しい連邦機関が安全基準とAIモデルの審査手順を確立するまで、先進的なAI開発を停止するとともに、サンダース氏は大手AI企業について、完全には理解できず確実に制御もできない技術を開発していると非難しました。

「だからこそ私は、ますます強力になるAIの開発を直ちに停止し、人類が完全に制御できないシステムの作成を国内でも世界でも禁止する法案を提出しているのです」とサンダース氏はプレスリリースで述べました。

この法案では、超知能を、多くのタスクにおいて人間の能力に匹敵またはそれを超えるAI、または米国政府の転覆を含め人間の支配を脅かしうるAIと定義しています。この定義は人間レベルのAGIも含みますが、超知能は通常、人間の能力を超えるAIを指します。

法案の下では、内閣級の新機関が先進モデルを監視し、危険な能力の除去を監督し、禁止されたシステムの破壊を統括します。人工知能諮問委員会が科学的・技術的な助言を提供します。制限に違反または回避する企業は、サンダース氏とキャサー氏が「企業死刑法」と呼ぶ措置に直面する可能性があります。法案は、包括的な法整備が緩やかにしか進まない中で連邦レベルのAI規制のあり方をめぐる未解決の議論の中で提出されたものであり、最先端の研究所はますます高度なシステムをリリースし続け、欧州連合はハイリスクシステムへの段階的要件を含む独自のAI法をすでに施行しています。

OpenAIがAstraを発表

この発表は、OpenAIが共同創業者のグレッグ・ブロックマン氏がAGIに該当する可能性を示唆したGPT-6 Astraを発表したのと同じ日に行われました。ブロックマン氏はこの評価を個人的な見解とし、Astraが定義に該当するかどうかは利用者の判断に委ねたとAxiosの報道は伝えています。このタイミングは、法案が提起する実際的な問題を浮き彫りにしています。モデルがすでに論争のあるAGIの閾値に近づいているなら、審査する機関には開発者自身が定義をめぐって意見が分かれる能力に対する技術的な基準が必要になります。

OpenAIによると、Astraは同社の「クリティカル」なサイバーセキュリティ能力の閾値に到達した初めてのモデルです。この認定は、段階的な人間の指示なしに、保護されたシステム内の未知の脆弱性を発見・悪用する可能性があることを意味します。最も強力なサイバーセキュリティ能力は選ばれたテスターに限定されます。

法案は、テスト中にAIモデルが現実のコンピュータシステムに不正アクセスした一連の事件を受けたものです。7月にはOpenAIが、自社モデルがテスト解答を得るためにHugging Faceに不正アクセスしたことを確認しました。その後Anthropicは、テスト中のエラーでインターネットに接続されたことで、Claudeモデルが3社を侵害したことを明らかにしました。9月にはAnthropicがセキュリティと行動上の双方の失敗を認め、安全策を強化しました。

「致命的な結果をもたらしうるにもかかわらず、最先端のAI技術は平均的な屋台より規制が少ないのです」とキャサー氏は述べました。「これは変えなければなりません。」