← 返回目录
O

Off Grid AI

社区
在设备上运行的离线 AI 套件
GitHub 源仓库 ↗
★ 3.0k Stars 分类 · 其他 非常热门 源版本 f7ad5e7b23fc
25FMRS · D
可靠性
2/20
安全与权限
7/20
维护活跃度
10/20
文档质量
4/20
安装易用性
2/20

源材料充分描述了 Off Grid AI 作为离线、本地 AI 应用的功能,但未证明仓库根目录包含可独立安装或调用的 MCP 服务器。因此未列出工具、传输方式、客户端兼容性或安装配置。

查看 FMRS 评分方法 →

Off Grid AI 是面向 Android、iOS 和 macOS 的本地 AI 应用,支持 GGUF 文本模型、视觉、Whisper 语音转文字、Stable Diffusion 图像生成、工具调用、文档分析和本地网络上的远程 LLM 服务。源材料未提供独立 MCP 服务器清单、工具定义、传输方式或客户端配置。

工具能力

暂未整理工具清单。

安装接入

源材料未提供独立 MCP 服务器的安装步骤或客户端配置。README 仅说明应用可通过应用商店、GitHub Releases 或从仓库根目录构建;构建需要 Node.js 20+、Android 使用 JDK 17/Android SDK 36、iOS 使用 Xcode 15+。

选型与风险

适合谁

  • 重视隐私且希望数据留在设备上的用户
  • 需要移动端或 Mac 端本地 AI 能力的用户
  • 希望使用 GGUF 模型或本地网络模型服务的用户

不适合谁

  • 需要已明确列出 MCP 工具和传输配置的用户
  • 需要云端托管、远程 API 或已验证 MCP 客户端兼容性的用户
  • 设备硬件不足以运行所选模型的用户

所需权限

  • 使用设备 CPU、GPU 或 NPU 执行本地模型推理
  • 访问麦克风以进行设备端 Whisper 语音转文字
  • 访问摄像头以进行视觉分析
  • 访问本地文件或文档以进行附件处理和知识库构建
  • 访问本地网络以连接 OpenAI 兼容的远程 LLM 服务

风险与副作用

  • 模型推理和图像生成会消耗设备资源与内存
  • Hexagon NPU 支持被标记为实验性,部分量化格式或模型架构可能回退到 CPU 或产生异常结果
  • 连接本地网络上的远程 LLM 服务时,数据会发送给该服务;README 未说明这些服务的隐私策略
  • 工具调用可能执行搜索、设备信息或知识库查询;源材料未提供独立 MCP 工具的权限边界

常见排障

  1. 确认设备满足相应 Android、iOS 或 macOS 构建要求
  2. 检查模型量化格式与 GPU/NPU 支持是否匹配
  3. 若 NPU 推理结果异常,切换到 CPU 或兼容的 GPU 后端
  4. 检查本地网络连接以及 OpenAI 兼容服务的可达性
  5. 确认应用有权访问所需的麦克风、摄像头和文档

使用场景

在手机或 Mac 上离线运行本地语言模型
使用本地视觉、语音转文字和图像生成能力
通过内置工具进行网页搜索、计算、日期时间、设备信息和知识库搜索
连接本地网络中的 OpenAI 兼容 LLM 服务

支持客户端

暂未确认支持的客户端。