离线AI详解：无需联网如何运行AI——以及它的局限所在
要点速览
- •离线AI在一次性下载模型后完全在设备上运行，仅在初始安装时需要互联网连接。
- •Technext在一台4GB内存的安卓手机上测试了Google的AI Edge Gallery和PocketPal AI，下载了584.4MB的Gemma3-1B-IT模型（约234奈拉）和730.9MB的LFM2.5-1.2B-Instruct模型（约292奈拉）。
- •测试手机在本地运行模型时出现卡顿，而LM Studio等桌面工具要求至少8GB内存，建议16GB以获得流畅运行。
- •AI Edge Gallery中的Gemma错误地将2027年2月27日列为尼日利亚下次大选日期，因为其知识截止于2023年10月前后，而INEC修订后的时间表将投票定于2027年1月16日。
- •离线AI适合在信号覆盖差的地区进行起草、改写、摘要和隐私敏感任务，但对新闻、价格或选举信息不可靠，其回答应手动核实。
关闭移动数据和Wi-Fi，开启飞行模式，打开手机上已安装的AI应用，询问尼日利亚总统是谁。32秒后答案到来——语气笃定，日期却错了。
这是Technext在无网络连接的安卓手机上测试Google AI Edge Gallery时的结果。结论是：AI确实可以在没有互联网的情况下工作，但只是较小型的AI，用户在依赖它之前应了解其局限。
离线AI的工作原理
ChatGPT、Claude和Gemini等主流助手运行在远程服务器上，因此需要互联网连接。离线AI的工作方式不同：一个紧凑的模型——也就是业内所称的小型语言模型——只需下载一次并存储在设备上，由设备自行完成处理。
这与设备制造商在系统层面采用的技术逻辑相同——Google的Gemini Nano已经在Pixel手机上直接驱动某些功能；不同之处在于，这里是将整个聊天机器人，而不仅仅是一个后台功能，放到了设备上。
网络连接只在初始下载和安装时需要；安装完成后，模型即可离线运行。
代价是体积。PocketPal AI在其引导说明中表示，手机上的模型快速且私密，但比云端AI更轻量——是“口袋伴侣，而非无所不知的神谕”。
我们在手机上测试了什么
Technext在一台型号为25078RA3EA、运行Android 16、配备4GB内存加4GB扩展内存的手机上测试了两款免费应用。两款应用均在飞行模式下使用。
AI Edge Gallery 由Google旗下Research at Google发布，在Google Play上带有抢先体验标签。其页面显示下载量超过100万次，评级为12+——由于处于抢先体验阶段，其功能集和模型列表仍可能随更新而变化。据Technext统计，它提供11项功能，包括AI Chat、Ask Image、Audio Scribe和Prompt Lab，共计16个模型。
Technext用其中最小的模型——来自Google Gemma系列的Gemma3-1B-IT——测试了AI Chat，该模型下载大小为584.4MB。按Technext使用的Glo资费每1GB 400奈拉计算，流量成本约为234奈拉。
模型运行时手机出现卡顿。这种卡顿是本地运行模型的硬件现实：模型加载到手机各方面所需的同一块内存中，这也是为什么下文的桌面指南将8GB视为底线、16GB作为流畅运行的目标。不过，当被要求协助撰写文案时，它的回应是合理的——询问文案的用途、目标受众以及所需语气。
PocketPal AI 的下载量同样超过100万次，评级为3+。它为测试手机匹配了LFM2.5-1.2B-Instruct，一个730.9MB的模型，按相同资费下载成本约为292奈拉。
当被要求梳理尼日利亚的历史及其历任领导人时，它给出了一个结构化的概述，从豪萨诸邦和约鲁巴诸王国等前殖民时期的王国讲起，并详细列出了所有前任领导人。
它在哪些地方会出错
当被问及现任总统和下次大选日期时，AI Edge Gallery中的Gemma说出了Bola Tinubu的名字，却将今天的日期定位在2023年10月。随后它给出的选举日期是2027年2月27日。
这是错误的。INEC 已修订时间表，在《2026年选举法》签署后，将总统选举和国民议会选举移至2027年1月16日举行。模型给出的日期既与此不符，也与更早的2月20日这个日期不符。
日期错误的缘由很简单：离线模型只知道它在构建之前学到的东西，无法查询任何信息。开发者称之为知识截止点——Gemma对世界的认知停留在2023年10月前后，因此无论问题如何措辞，《2026年选举法》及由其重塑的时间表对模型而言根本不存在。
如何在手机和电脑上设置并使用无网络的AI
在手机上（安卓）
- 连接稳定的网络，并确保至少有2GB的可用存储空间。
- 从Google Play安装AI Edge Gallery或PocketPal AI。
- 在AI Edge Gallery中，打开AI Chat并选择列表中最小或所需的模型。在PocketPal AI中，当它询问你的“伙伴”用途时，选择Smart Chat或其他具体类型，应用会推荐适合你手机的模型。
- 下载模型。这是唯一消耗流量的步骤。
- 开启飞行模式，然后开始对话。
如果手机卡顿，先关闭其他后台应用，并尽量腾出更多空间。
在电脑上
Technext未测试桌面版本，因此以下步骤来自开发者文档和已发布的指南。
- 检查你的电脑。一份指南指出8GB内存为最低要求，建议16GB以获得流畅体验。
- 从lmstudio.ai下载LM Studio。个人使用免费，支持macOS、Windows和Linux。
- 打开模型浏览器。快捷键在Windows和Linux上为Ctrl + Shift + M，在Mac上为Cmd + Shift + M。应用会显示预估内存需求，并在模型超出电脑配置时发出警告。
- 下载合适的模型。它们通常每个为2.5GB到5GB——远大于上述手机模型——因此请预期更高的流量费用。
- 断开网络连接，开始对话。
Ollama是另一个桌面选项，但它通过命令行运行。
最佳使用方式
离线AI适合起草、改写、头脑风暴、为你粘贴的文本做摘要以及备考练习。此外还有用于转录、图像解释、翻译甚至音频生成的模型。由于处理在本地进行，数据保留在你自己的电脑上，这对处理敏感文件很有帮助——而且由于不需要信号，在网络覆盖差的区域它仍可正常工作，而云端助手则完全无法响应。
对于新闻、价格、选举信息或任何近期内容，它是糟糕的选择，它给出的任何事实都应手动核实。
因此，坦率地说，离线AI是网络中断时写作和学习的得力助手，但它不是事实来源——尤其是近期事实。
