オフラインAI徹底解説：インターネット接続なしでAIを使う方法とその限界
重要ポイント
- •オフラインAIは一度モデルをダウンロードすれば完全に端末上で動作し、インターネット接続は初期インストール時にのみ必要。
- •TechnextはRAM 4GBのAndroidスマートフォンでGoogleのAI Edge GalleryとPocketPal AIをテストし、584.4MBのGemma3-1B-ITモデル(約234ナイラ)と730.9MBのLFM2.5-1.2B-Instructモデル(約292ナイラ)をダウンロードした。
- •テスト端末はモデルのローカル実行中に動作が重くなり、LM Studioなどのデスクトップツールはメモリ8GBが最低ライン、快適な動作には16GBが推奨される。
- •AI Edge GalleryのGemmaはナイジェリアの次回選挙日を誤って2027年2月27日と回答した。知識カットオフが2023年10月頃のためで、INECの改定された時間表では投票日は2027年1月16日に設定されている。
- •オフラインAIは電波環境の悪い地域での文章作成、リライト、要約、プライバシーに関わる作業には有効だが、ニュース、価格、選挙情報には信頼性がなく、回答は手動で確認すべきである。
モバイルデータとWi-Fiをオフにし、機内モードを有効にして、スマートフォンにインストール済みのAIアプリを開き、ナイジェリアの大統領は誰かと質問する。32秒後に回答が返ってくるが、自信ありげな口調でありながら日付は間違っていた。
これはTechnextがGoogleのAI Edge Galleryをネットワーク接続のないAndroidスマートフォンでテストした結果だ。結論から言えば、AIはインターネットなしでも動作する。ただし、それは小規模な種類のAIに限られ、ユーザーはそれに頼る前にその限界を理解しておく必要がある。
オフラインAIの仕組み
ChatGPT、Claude、Geminiなどの主流アシスタントはリモートサーバー上で動作するため、インターネット接続が必要になる。オフラインAIは仕組みが異なる。コンパクトなモデル――業界で「小規模言語モデル」と呼ばれるもの――を一度ダウンロードして端末に保存し、以降は端末自身が処理を行う。
これはデバイスメーカーがシステムレベルで展開してきたのと同じ論理だ。GoogleのGemini NanoはすでにPixelスマートフォンの一部機能を端末上で直接動かしている。違いは、バックグラウンド機能だけでなくチャットボット全体が端末上に存在する点にある。
接続が必要なのは最初のダウンロードとインストールのみで、一度インストールすればモデルは接続なしで動作する。
トレードオフはサイズだ。PocketPal AIはオンボーディングの中で、スマートフォン上のモデルは高速でプライベートだがクラウドAIより軽量であり、「ポケットに入る相棒であって、全知の神託ではない」と説明している。
モバイルでテストした内容
Technextは、モデル番号25078RA3EAのAndroid 16搭載スマートフォン(RAM 4GB+拡張メモリ4GB)で2つの無料アプリをテストした。いずれも機内モードで使用した。
AI Edge GalleryはGoogleのResearch部門が公開しており、Google Playでは「早期アクセス」ラベルが付いている。掲載情報ではダウンロード数が100万件超、レーティングは12+。早期アクセスのため、アップデートに伴い機能セットやモデル一覧は変更される可能性がある。Technextの集計では、AI Chat、Ask Image、Audio Scribe、Prompt Labを含む11の機能と、合計16のモデルを提供している。
TechnextはAI Chatを、GoogleのGemmaファミリーから最小のモデルであるGemma3-1B-IT(584.4MBのダウンロード)でテストした。Technextが使用したGloの料金、1GBあたり400ナイラで計算すると、データ通信量は約234ナイラとなる。
モデルの動作中、スマートフォンは重くなった。この遅延はモデルをローカルで実行する際のハードウェア上の現実だ。モデルはスマートフォンが他の用途に必要とする同じメモリに読み込まれるため、後述のデスクトップ向けガイドが8GBを最低ライン、16GBを快適な目安としている。それでも、文章作成の支援を求めると、用途は何か、対象読者は誰か、どのようなトーンが求められるかと的確に尋ね返すなど、妥当な反応を見せた。
PocketPal AIもダウンロード数100万件超、レーティング3+。テスト端末にはLFM2.5-1.2B-Instruct(730.9MBのモデル、同じ料金で約292ナイラ)が割り当てられた。
ナイジェリアの歴史と歴代指導者をたどるよう求めると、ハウサ諸国家やヨルバ王国などの植民地以前の王国から始まる構造化された概要を作成し、歴代の指導者全員について詳細な説明を示した。
誤りが生じる場面
現任大統領と次回総選挙の日付を尋ねると、AI Edge GalleryのGemmaはボラ・ティヌブの名前を挙げたが、「今日」の日付を2023年10月と認識していた。そして選挙日は2027年2月27日と回答した。
これは誤りだ。INECは2026年選挙法の署名後、時間表を改定し、大統領選と国民議会選を2027年1月16日に移動させている。モデルが提示した日付は、この日付とも、それ以前の2月20日とも一致しない。
日付の誤りの理由は単純だ。オフラインモデルは、構築される前に学習した内容しか知らず、何も調べることができない。開発者はこれを「知識カットオフ」と呼ぶ。Gemmaの世界観は2023年10月頃で止まっているため、2026年選挙法と、それによって変更された時間表は、質問の仕方を変えてもモデルにとっては存在しないのだ。
スマートフォンとパソコンでインターネットなしのAIをセットアップして使う方法
スマートフォン(Android)の場合
- 安定したネットワークに接続し、少なくとも2GBの空きストレージがあることを確認する。
- Google PlayからAI Edge GalleryまたはPocketPal AIをインストールする。
- AI Edge GalleryではAI Chatを開き、一覧から最小または希望のモデルを選ぶ。PocketPal AIでは「pal」の用途を尋ねられたらSmart Chatなどの種類を選び、端末に合うモデルをアプリに提案してもらう。
- モデルをダウンロードする。データ通信を使用するのはこの段階のみ。
- 機内モードを有効にして、チャットを開始する。
動作が重い場合は、まず他のバックグラウンドアプリを閉じ、空き容量を増やすよう努める。
パソコンの場合
Technextはデスクトップ版をテストしていないため、以下の手順は開発者のドキュメントと公開ガイドに基づく。
- 端末のスペックを確認する。あるガイドではメモリ8GBを最低とし、快適な動作には16GBを推奨している。
- lmstudio.aiからLM Studioをダウンロードする。個人利用は無料で、macOS、Windows、Linuxに対応している。
- モデルブラウザを開く。ショートカットはWindows/LinuxではCtrl + Shift + M、MacではCmd + Shift + M。アプリは推定メモリ要件を表示し、モデルが端末に対して大きすぎる場合は警告する。
- 適合するモデルをダウンロードする。各モデルは通常2.5GB〜5GBで、前述のスマートフォン向けモデルよりはるかに大きいため、より大きなデータ通信料金を想定しておく必要がある。
- インターネットから切断してチャットを開始する。
Ollamaもデスクトップ向けの選択肢だが、コマンド操作で実行する。
最適な使い方
オフラインAIは、文章の下書き、リライト、ブレインストーミング、貼り付けたテキストの要約、試験対策の学習に適している。文字起こし、画像の説明、翻訳、さらには音声生成に対応したモデルもある。処理がローカルで行われるため、データは自分のパソコン上に留まり、機密文書の取り扱いに役立つ。また、電波を必要としないため、クラウドアシスタントなら一切応答しないネットワーク環境の悪い地域でも動作し続ける。
一方、ニュース、価格、選挙情報など最近の情報には不向きであり、出力された事実は手動で確認すべきである。
率直に言えば、オフラインAIはネットワークが使えないときの文章作成や学習の有用なアシスタントではあるが、事実の情報源ではない。特に最近の情報についてはなおさらである。
