Metaは、コンシューマー向けコンピューター上でローカル実行するために構築された300億パラメータの人工知能モデル「Muse Glimmer」を発表しました。同モデルのウェイトはApache 2.0ライセンスの下で公開され、開発者は自由にダウンロード、改変、デプロイすることができます。Muse Glimmerは、Meta Superintelligence Labsからオープンウェイトとしてリリースされる初のモデルであり、Llamaモデルファミリーを通じて追求してきたオープンAIシステムの公開戦略を継続するものです。このオープンウェイトアプローチは、OpenAIやGoogleなどの企業が提供する完全プロプライエタリなモデルとは対照的であり、開発者に対してモデルの完全な可視性を提供し、ホスト型APIに依存することなく特定のユースケース向けにファインチューニングすることを可能にします。

機能とアーキテクチャ

Muse Glimmerは、継続的なユーザーの監視なしにマルチステップタスクを実行できるAIエージェント向けに設計されています。同モデルは、ワークフローの計画、外部ツールの呼び出し、中間結果の検証、および失敗したステップからの自律的な復旧が可能です。これにより、Glimmerは、単なるテキスト生成にとどまらずユーザーに代わって行動をとるように設計されたモデルである「エージェント型AI」へ向ける業界全体の高まりの中に位置づけられます。この分野にはAnthropicやGoogleを含む企業も多大な投資を行っています。

Metaによると、同モデルは24GBまたは32GBのメモリを搭載したデバイスで動作します。対応ハードウェアには、M4またはM5チップを搭載したMac、ならびにNVIDIA RTX 5090やAMD Radeon AI PROなどのコンシューマー向けGPUを1基搭載したシステムが含まれます。推論にインターネット接続は不要であり、処理中のユーザーデータはデバイス上に留まります。これは、企業や規制当局がクラウドホスト型AIサービスへの情報の流れを精査する中で、ますます重要な考慮事項となっています。

同モデルはテキストと画像の双方の処理をサポートしており、100以上の言語にわたるデータセットでトレーニングされています。

トレーニングと最適化

Metaは、より大規模なMuse Sparkモデルから派生した蒸留プロセスを使用してGlimmerをトレーニングし、推論、コーディング、エージェントタスクに焦点を当てた追加トレーニングを補完しました。蒸留とは、より大規模なモデルからより小さく効率的なモデルへ能力を移転する手法であり、コンシューマー向けハードウェアのメモリと計算の制約内に収めつつ強力な性能を維持するモデルを生み出すための広く用いられる技術となっています。同社はモデルのフル精度版および4ビット版の両方に加え、推論コードとテキスト生成の高速化を目的としたDFlash推測的デコーディングシステムをリリースしました。

Metaは、DFlashが標準的な生成性能と比較して、NVIDIA RTX 5090でGlimmerの生成速度を3.1倍、M5 Maxで1.8倍、M4 Maxで1.5倍それぞれ向上させたと報告しています。

提供開始とパートナーシップ

Muse GlimmerはHugging Faceから利用可能であり、Ollama、LM Studio、llama.cpp、MLXなどのツール向けサポートも順次提供されています。これらは大規模言語モデルをローカルで実行するための最も広く使用されているオープンソースフレームワークであり、それらの統合により、開発者はプロプライエタリソフトウェアを使用することなくGlimmerを既存のワークフローに組み込むことができます。Metaは、AMD、Arm、Dell、Intel、NVIDIAなどのパートナーと協力してハードウェアプラットフォーム全体でパフォーマンスを最適化していると述べています。

同社は、開発者がローカルコーディング、ツール呼び出し、ファイル管理、その他のエージェント型アプリケーションにモデルを活用できると述べています。また、Metaは今後数週間以内に、主力基盤モデルの一つであるMuse Spark 1.2のウェイトをリリースする予定であり、これによりオープンソースコミュニティは比較検証とさらなる開発のためにより大規模で高機能なモデルにアクセスできるようになります。

出典: TechNext24

一次参考資料: Meta Research – Introducing Muse Glimmer