Google AI Edge Gallery:让你的手机离线运行大模型
随着人工智能(AI)向边缘设备(Edge Device)迁移,Google 最近推出了一款名为 AI Edge Gallery 的实验性应用,开始真正把“大模型运行在手机上”的愿景带入现实。你不再需要一直依赖云端服务器,只要下载模型,就可以在 Android 手机上离线使用聊天、图像问答、提示实验等功能。以下是在一台很老的机器——一加8T上运行测试的结果。

什么是 Google AI Edge Gallery
- 官方定义:这是一个实验性开源应用,让用户能够在 Android 设备上本地运行先进的生成式 AI 模型(GenAI),即使在无网络环境下也可使用。
- 功能亮点:支持切换不同模型(包括 Hugging Face 上的模型或 Google 自己的 Gemma 系列),支持图像 + 音频 + 多种提示(prompt)的任务模式,如 “AI Chat”、 “Ask Image” 与 “Prompt Lab” 等。
- 开源 & 实验性:采用 Apache-2.0 许可协议,在 GitHub 上开放,属于 Alpha /实验版本。开发者与爱好者可以参与反馈与使用。
安装步骤
- 在Play 商店搜索”google edge gallery”直接进行安装;当然,如果你没有play商店的话,可以在 GitHub 仓库找到 AI Edge Gallery 的最新版本 APK(官方仓库
google-ai-edge/gallery
) - 安装完成后打开应用,浏览可用模型并下载某个你感兴趣的模型(如 Gemma-3 或 HuggingFace 上的量化模型,系统内提示的是”Gemma-3n-E2B-it”、“Gemma-3n-E4B-it”和”Gemma3-1B-1T”,我下载的”Gemma-3n-E2B-it”,大小3.4G,需要注意的是,下载时需要HuggingFace登录)
- 在应用中切换到你要用的模式,如 AI Chat、Prompt Lab、Ask Image 等,然后就可以使用了。
实测体验
AI Chat测试
问题都是一些经典问题,比如“天气预报说本周星期三会下雨,昨天果然下雨了,今天星期几?”,“两个男人正常交谈,其中一个男人夸赞对方办事能力强,对方回答“哪里,哪里”。这里的“哪里,哪里”是什么意思?”,很注重逻辑,回答结果如下所示:
测试 AI Chat模型:
测试 Audio Scribe 模型:
测试 Ask Image 模型(图片上是一碗菜椒炒肉大米盖饭,中间有些西红柿炒蛋):
可以看到有些结果还是挺准确的,但有些不禁人意,可以原谅,毕竟手机上嘛。未来可能会越来越好吧。哦,对了,手机耗电量尚可,毕竟我这机子是20年的产物,到现在也5年了。
如果你有支持的 Android 手机,不妨试一试这个实验性应用,探索什么模型最适合你,看看离线 AI 在日常中的实际体验。