← 返回目录
O

OmniRoute

社区
一个端点连接290+ AI提供商的免费AI网关
GitHub 源仓库 ↗
★ 27.1k Stars 分类 · 开发工具 非常热门
54FMRS · D
可靠性
8/20
安全与权限
8/20
维护活跃度
13/20
文档质量
13/20
安装易用性
12/20

资料显示 OmniRoute 是功能广泛的开源本地 AI 网关,重点在多提供商路由、免费层聚合、故障转移和令牌压缩。README 未提供具体 MCP 工具标识符,因此工具清单留空。

查看 FMRS 评分方法 →

OmniRoute 是采用 MIT 许可的本地优先 AI 网关,通过单一端点连接290+提供商和500+模型,其中90+提供免费层。它提供配额感知自动故障转移、19种路由策略、RTK与Caveman令牌压缩、MCP和A2A支持,并兼容多种编码工具。

工具能力

暂未整理工具清单。

安装接入

在仓库根目录运行 npm install && npm run dev,或全局安装 npm install -g omniroute。启动后,可使用 omniroute --mcp 提供 stdio MCP 服务,也可连接 http://localhost:20128/api/mcp/stream 或 /api/mcp/sse。README 还提供了 Claude Code 的命令:claude mcp add-server omniroute --type http --url http://localhost:20128/api/mcp/stream。

选型与风险

适合谁

  • 需要统一 AI 端点的开发者
  • 使用 Claude Code、Cursor、Cline、Codex 或其他编码代理的用户
  • 希望利用免费层、成本路由和本地部署的团队

不适合谁

  • 只需要单一模型官方客户端的用户
  • 不希望自行管理提供商密钥、配额和路由策略的用户
  • 需要来源中未说明的托管云服务或官方产品集成的用户

所需权限

  • 访问本地 OmniRoute 网关及其 MCP 接口
  • 根据配置使用提供商密钥或内置无密钥免费提供商
  • MCP 访问可覆盖路由、提供商、组合、缓存、压缩和记忆等功能;远程令牌支持 read、write、admin 范围
  • 进程生成路由保持为仅限本机回环访问

风险与副作用

  • 自动回退可能将请求发送到不同的提供商或模型
  • 使用远程 MCP 时,104个工具的访问范围取决于令牌范围和配置
  • 免费层、配额、提供商条款和可用性会变化;README 指出部分提供商存在服务条款标记
  • 激进压缩可能改变上下文表达,尽管代码、URL、JSON和结构化数据会被保护

常见排障

  1. 确认本地服务运行在 http://localhost:20128
  2. 使用 omniroute doctor 检查提供商、端口和原生依赖
  3. 检查 MCP 端点是否使用正确的 /api/mcp/stream 或 /api/mcp/sse 路径
  4. 若 auto 无响应,检查内置免费提供商或已配置提供商的健康状态与配额
  5. 检查远程模式中的上下文、令牌范围和连接配置

使用场景

统一接入多个 AI 提供商和模型
为编码代理配置自动路由与配额故障转移
通过压缩减少工具输出和上下文的令牌消耗
让 MCP 或 A2A 代理管理网关、提供商、组合、缓存和记忆功能

支持客户端

Claude Desktop完整支持
Cursor完整支持
Claude Code完整支持