Google AI Edge Gallery 是谷歌于 2025 年 6 月推出的一款实验性应用程序，旨在让用户在移动设备上本地运行生成式 AI 模型。
一、主要功能
1. 离线运行与多模型切换
离线运行：所有 AI 任务均在本地设备完成，无需联网，保障数据隐私。
多模型切换：支持从 Hugging Face 下载多种模型，如 Gemma 3n、Qwen 2.5 等，便于用户对比不同模型的性能。
2. 交互式功能模块
图像问答（Ask Image）：用户可上传图片并提问，如“图中有几只猫？”“这张图表有什么问题？”等，AI 会给出相应回答。
提示实验室（Prompt Lab）：提供多种单轮任务模板，包括文本摘要、语气重写、代码生成等，用户可输入提示词获取生成结果。
AI 聊天（AI Chat）：支持多轮对话，模型会保留上下文信息，模拟真实对话场景。
3. 性能监控与开发者支持
性能监控：实时查看模型推理过程中的关键指标，如首次生成时间（TTFT）、解码速度、延迟等。
自带模型测试：用户可导入 LiteRT 格式的 .task 模型文件，进行本地测试。
开发者友好：提供模型卡、源码链接等资源，方便开发者进一步研究和部署。
二、技术原理
Google AI Edge 框架：作为设备端机器学习的核心框架，提供了一系列 API 和工具，优化计算和内存管理，降低模型运行的资源消耗，提高运行效率。
LiteRT 运行时环境：轻量级的运行时环境，基于高效的内存管理和计算优化，确保模型在移动设备上快速运行，减少对设备资源的占用，支持 TensorFlow Lite 和 ONNX 等多种模型格式。
LLM Inference API：支持设备端大型语言模型（LLM）推理，使用户可以在本地设备上运行复杂的语言模型，而无需依赖云端服务，大大提高了数据隐私和安全性。
Hugging Face 集成：通过集成 Hugging Face 的模型库，用户可以轻松地发现和下载各种预训练模型，简化了使用流程。
三、应用场景
个人创意场景：可用于图片内容问答、故事文本生成、多轮对话娱乐互动等。
教育辅助领域：可用于语言学习对话练习、编程代码辅助生成、科学概念解释等。
专业开发场景：开发者可本地测试模型性能，快速迭代优化，也可在无网环境下进行原型搭建与跨模型效果对比。
企业级应用：可用于开发本地化客户支持工具、离线数据处理方案、隐私敏感场景应用等。
日常生活场景：可用于旅行行程规划、智能家居语音控制、健康知识查询等。
四、使用方法
下载安装：通过 GitHub 项目页面下载 APK 文件并安装到 Android 设备上。
浏览模型库：应用内置模型浏览器，支持搜索和筛选 Hugging Face 上的兼容模型。
下载模型：选择所需模型，下载到本地设备。
运行任务：使用内置功能如“AI Chat”“Ask Image”“Prompt Lab”等，执行相应的 AI 任务。
查看性能指标：实时监控模型的运行性能，如首字节时间（TTFT）、解码速度和延迟等。
五、适用人群
普通用户：可利用其离线功能，在无网络环境下使用 AI 功能，如旅行时进行图像问答、文本生成等。
教育工作者和学生：可用于辅助教学和学习，如语言学习、编程辅助等。
开发者：可利用其开发者友好功能，如自带模型测试、性能监控等，进行模型开发和优化。
企业用户：可用于开发本地化客户支持工具、离线数据处理方案等。
六、优缺点介绍
优点：
数据隐私保护：所有数据处理均在本地完成，无需上传至云端，保障了用户数据的隐私和安全。
离线可用性：无需网络连接即可使用，适用于无网络或网络不稳定的情况。
多模型支持与切换：支持多种模型并可轻松切换，方便用户根据需求选择合适的模型。
功能丰富：具备图像问答、文本生成、多轮对话等多种功能，满足不同用户的多样化需求。
开发者友好：为开发者提供了模型卡、源码链接等资源，方便进行进一步研究和部署。