離線 AI 完整解析:如何在沒有網路的情況下使用 AI,以及它的極限在哪裡
重點速覽
- •離線 AI 在一次性下載模型後即可完全在裝置上執行,網路連線僅需用於初次安裝。
- •Technext 在 4GB RAM 的 Android 手機上測試了 Google 的 AI Edge Gallery 和 PocketPal AI,下載了 584.4MB 的 Gemma3-1B-IT 模型(約 234 奈拉)與 730.9MB 的 LFM2.5-1.2B-Instruct 模型(約 292 奈拉)。
- •測試手機在本機執行模型時出現延遲,而 LM Studio 等桌上版工具至少需要 8GB 記憶體,建議 16GB 以獲得順暢體驗。
- •AI Edge Gallery 中的 Gemma 錯誤地將奈及利亞下次選舉日期給為 2027 年 2 月 27 日,因其知識截止點約在 2023 年 10 月,而 INEC 修訂後的時程將選舉定於 2027 年 1 月 16 日。
- •離線 AI 適合在網路覆蓋不佳地區進行草擬、改寫、摘要與重視隱私的任務,但對新聞、價格或選舉資訊不可靠,其答案應人工查證。

關閉行動數據與 Wi-Fi、開啟飛航模式,打開手機上已安裝的 AI 應用程式,問它奈及利亞總統是誰。32 秒後答案出現——語氣篤定,日期卻錯了。
這是 Technext 在一台沒有網路連線的 Android 手機上測試 Google 的 AI Edge Gallery 時得到的結果。結論是:AI 確實可以在沒有網路的情況下運作,但只有較小型的 AI 做得到,而且使用者應先了解其限制,再決定是否依賴它。
離線 AI 的運作原理
ChatGPT、Claude 和 Gemini 等主流助理都在遠端伺服器上執行,因此需要網際網路連線。離線 AI 的運作方式不同:一個精簡模型——也就是業界所稱的小型語言模型——只需下載一次並儲存在裝置上,之後由裝置自行完成運算。
這與裝置製造商在系統層級採用的邏輯一致,例如 Google 的 Gemini Nano 已直接在 Pixel 手機上驅動某些功能;此處的不同之處在於,整個聊天機器人而非僅是背景功能,都存在於裝置上。
網路連線只需要用於初次下載與安裝;一旦安裝完成,模型就能在離線狀態下執行。
代價是模型大小。PocketPal AI 在其使用說明中表示,手機上的模型快速且具隱私性,但比雲端 AI 輕量——是「口袋裡的夥伴,而非無所不知的神諭」。
我們在行動裝置上測試了什麼
Technext 在一台型號 25078RA3EA、搭載 Android 16、具備 4GB RAM 加 4GB 延伸記憶體的手機上測試了兩款免費應用程式。兩款應用程式都在飛航模式下使用。
AI Edge Gallery 由 Research at Google 發布,在 Google Play 上標示為早期存取。其頁面顯示下載次數超過 100 萬次,分級為 12+——由於仍屬早期存取,其功能與模型清單可能隨更新而改變。據 Technext 統計,它提供 11 項功能,包括 AI Chat、Ask Image、Audio Scribe 和 Prompt Lab,以及共 16 個模型。
Technext 以其最小的模型——來自 Google Gemma 家族的 Gemma3-1B-IT——測試 AI Chat,該模型下載大小為 584.4MB。以 Technext 使用的 Glo 費率計算,每 1GB 為 400 奈拉,下載約需 234 奈拉的資料費。
模型執行時手機出現延遲。這是在本機執行模型的硬體現實:模型會載入與手機其他作業共享的記憶體,這也是為什麼下文的電腦版指南將 8GB 視為最低門檻、16GB 才是順暢運作的理想目標。不過,當被要求協助撰寫文案時,它的回應相當合理,先詢問文案的用途、目標受眾以及想要的語氣。
PocketPal AI 同樣有超過 100 萬次下載,分級為 3+。它為測試手機配對了 LFM2.5-1.2B-Instruct,這是一個 730.9MB 的模型,以相同費率下載約需 292 奈拉。
當被要求梳理奈及利亞的歷史與歷任領導人時,它產出了結構清晰的概述,從豪薩諸國與約魯巴諸王國等前殖民時期的王國談起,並詳細列出所有前任領導人。
它在哪裡出錯
當被問到現任總統與下次大選日期時,AI Edge Gallery 中的 Gemma 說出 Bola Tinubu 的名字,卻把今天的日期定在 2023 年 10 月,接著給出的選舉日期是 2027 年 2 月 27 日。
這是錯的。INEC 已修訂時程,在《2026 年選舉法》簽署後,將總統與國民議會選舉改至 2027 年 1 月 16 日舉行。模型給出的日期既不符合該日期,也不符合先前的 2 月 20 日。
日期出錯的原因很簡單:離線模型只知道它在建立之前學到的東西,而且無法查詢任何資料。開發者稱之為知識截止點——Gemma 對世界的認知停在 2023 年 10 月左右,因此無論問題如何措辭,《2026 年選舉法》及其重塑的選舉時程對這個模型而言根本不存在。
如何在手機與電腦上設定並使用離線 AI
在手機上(Android)
- 連上穩定的網路,並確保至少有 2GB 的可用儲存空間。
- 從 Google Play 安裝 AI Edge Gallery 或 PocketPal AI。
- 在 AI Edge Gallery 中,開啟 AI Chat 並從清單中選擇最小或所需的模型。在 PocketPal AI 中,當它詢問你的「pal」用途時,選擇 Smart Chat 或其他特定類型,應用程式會建議適合你手機的模型。
- 下載模型。這是唯一需要消耗數據的步驟。
- 開啟飛航模式,然後開始對話。
如果手機卡頓,先關閉其他背景應用程式,並嘗試釋出更多空間。
在電腦上
Technext 並未測試桌上版本,以下步驟來自開發者文件與已發布的指南。
- 檢查你的機器。一份指南指出 8GB 記憶體為最低需求,建議 16GB 以獲得順暢體驗。
- 從 lmstudio.ai 下載 LM Studio。個人使用免費,支援 macOS、Windows 與 Linux。
- 開啟模型瀏覽器。Windows 與 Linux 的快速鍵是 Ctrl + Shift + M,Mac 則是 Cmd + Shift + M。應用程式會顯示預估記憶體需求,並在模型超出機器負荷時發出警告。
- 下載合適的模型。這些模型通常每個為 2.5GB 至 5GB——遠大於上述手機模型——因此要有支付更多數據費的心理準備。
- 中斷網路連線,開始對話。
Ollama 是另一個桌上版選擇,但需透過指令操作。
最佳使用方式
離線 AI 適合草擬、改寫、腦力激盪、摘要你貼上的文字,以及準備考試。也有用於轉錄、圖片解說、翻譯,甚至語音生成的模型。由於運算在本機進行,資料會留在你自己的電腦上,這對處理敏感文件很有幫助——而且因為不需要訊號,在網路覆蓋不佳的地區也能持續運作,而雲端助理在這些地方根本無法回應。
對於新聞、價格、選舉資訊或任何最新資訊,它都不是好的選擇,其所產出的任何事實都應人工查證。
因此,誠實的答案是:當網路中斷時,離線 AI 是寫作與學習的實用助理,但它不是事實來源——尤其是最新的資訊。