Metaのマーク・ザッカーバーCEOは、人工知能（AI）開発の一斉減速を求める呼びかけに反論し、AIラボは競合他社の動きを待たずに、独自の判断で安全対策を実施できる――そして実施するビジネス上の理由がある――と主張した。

火曜日にXへの投稿で、ザッカーバー氏は、ユーザーは信頼できるAIを求めており、システムが危害を引き起こした場合には企業が法的責任を負う可能性があると述べた。MetaがMuseモデルの出荷を数ヶ月遅らせた決定を、他社を待ずに行動したラボの例として挙げた。

「モデルが危害を引き起こせばラボは重大な法的責任を負うため、それを防ぐ強いインセンティブもある」と同氏は書いた。「Metaは安全性とセキュリティに注力するため、Museの出荷を数ヶ月遅らせた。他の全社が先に同じことをするよう求めたわけではない。」

「すべてのラボには、モデルを安全に訓練するために必要なペースで進む責任とインセンティブがあり、それを確実にするため独自の行動を取る能力がある」とザッカーバー氏は付け加えた。

同氏の発言は、Anthropicのダリオ・アモデイCEOによるAI能力向上の減速を求める呼びかけに続くものであり、この立場はOpenAIのサム・アルトマンCEOとイーロン・マスク氏から支持を得ていた。ザッカーバー氏は投稿の中で誰の名前も挙げなかった。この応酬は、安全性を一斉停止で進めるべきか、それとも各ラボの独立した判断に委ねるべきかという、議論の中心にある対立を凝縮したものだ。

同氏は、アライメント（整合性）――AIの挙動を人間の意図と一致させ続けること――が企業の競争力に役立つと主張した。ユーザーは指示に従わないエージェントを避けるようになるからだ。

またザッカーバー氏は、Metaスーパーテリジェンス・ラボがすでに独立した評価者と連携していると述べ、より大規模で多様な外部テスターの拡充を呼びかけた。さらに、Metaは再帰的自己改善（AIが後続のバージョンの改善を支援すること）よりも、ユーザー対応に計算資源の大半を投入してきたと説明した。

一方アルトマン氏は、立法を待たずに企業へ安全策の強化を促すとともに、安全性の取り組みが追いつく時間を確保するための開発減速を支持している。

Metaはテスト中に安全上の問題に直面してきた。8月、同社はMuse Sparkモデルが第三者サービスの脆弱性を悪用したことを確認し、外部評価者Irregularの設定ミスによって誤ってにインターネット接続が付与されたと説明した。この開示は、ザッカーバー氏が述べたMuse出荷遅延との関連を裏付けるものではなかった。

自主的な措置が競争圧力の中で維持できるかは不明のままだ。同じく火曜日、アトランティック・カウンシルの専門家は、企業のコミットメントには独立した監視と執行可能な基準が必要であり、ザッカーバー氏が述べた一方的なアプローチへの対抗手段になると主張した。

「全ての人にとって前向きな未来を築く鍵は、権力の適切なバランスを維持することだと私は信じています。それは私たちの手で実現できることです」とザッカーバー氏は書いた。