世界有数の人工知能企業の一つに勤めていた研究者が辞任し、その後、AI技術が10年以内に人類を滅ぼす可能性があるとの警告が出されたことで、議会によるAI安全対策が加速したようだ。

Anthropicのジェイコブ・コクソン氏が2026年9月8日に辞任したことで、学術論文や会議での議論が長年にわたり十分な行動につながらなかった中、拘束力のある連邦規則の整備に向けた立法の機運が生まれた。それ以来、20人を超える議員が監督強化を公に求めている。同時に、超党派の上院議員グループは、強力なAIモデルの開発者に法的な「注意義務」を課す法案を推進している。この提案は、主要な安全対策を企業による自主的な取り組みから、法律に裏付けられた義務へと移行させるものだ。

法案と支持者

エイミー・クロブシャー、ジョン・スーン、テッド・クルーズ両上院議員がこの取り組みを主導している。彼らの法案は、AI企業が自主的に掲げてきた安全への取り組みを、法的に執行可能な要件へと転換するものだ。

法案の中核的な規定では、高度なAIシステムに対し、リリース前の安全性試験を義務付ける。また、開発者に独立した第三者による監査と、標準化された報告を義務付ける。さらに、この提案は、危険とみなされるAIモデルのリリースに政府が介入し、阻止する権限を政府に与える。これらの規定により、最も強力なシステムをリリースする際の中心的な条件として、試験、外部審査、情報開示が位置付けられることになる。

提案された規則の下では、最先端AIモデルを開発する企業に正式な注意義務が課される。システムが損害をもたらし、企業が合理的な予防措置を講じていなかった場合、企業は法的責任を問われる可能性がある。

OpenAIは、国による強制的な安全基準と強固な試験プロトコルを公に支持している。同社自身が提案された要件の直接的な対象となるため、この立場は注目に値する。

議論を促す懸念

Anthropicの別の研究者であるエバン・ヒュービンガー氏は、今後10年以内にAIが引き起こす絶滅事象が発生する確率は10%を超えると公に推計している。

Anthropicも脅威に関する報告書を公表し、新しいAIモデルの一部の安全性に疑問を呈している。特に、生物兵器の開発を支援する可能性が問題視されている。

立法上の障害

複数の議員は、議会が公聴会を設定するよりも速く進化する技術について、技術的に妥当な規則を策定することは難しいと警告している。11月の中間選挙も、さらなる問題を加える。一部の議員は、再選に向けた選挙運動中に、技術的に複雑な規制枠組みへの投票をためらう可能性がある。

したがって、議論の次の段階では、選挙日程によって行動が制約される前に、議員らが実行可能な試験、監査、報告、介入の基準を定義できるかどうかが焦点となる。詳細が解決されるまで、この提案は、運用中の規制枠組みではなく、執行可能な連邦安全要件を確立するための取り組みにとどまる。

出典: CryptoBriefing