← 返回目录
L

Lm

社区
将Claude Code的例行任务卸载到本地或云端LLM,节省令牌费用。
分类
开发工具 第 227 / 438
Stars
★ 121 非常热门
传输方式
stdio(本地进程)
运行环境
Node.js 22.5+
凭据
可选 API Key
许可证
Apache-2.0
最近提交
工具数
8
52FMRS · D

Houtini LM为Claude Code用户提供了一种实用的令牌节省方案,通过将边界清晰的任务卸载到本地或云端LLM。它提供了自主模型路由、性能跟踪和结构化输出支持,显着减少了Claude的令牌消耗。对于希望控制成本的开发者来说,这是一个有价值的工具,但需要注意安全风险并确保正确配置。

最强项 · 文档质量 15/20 最弱项 · 可靠性 6/20

可靠性
6/20
安全与权限
9/20
维护活跃度
9/20
文档质量
15/20
安装易用性
13/20
查看各项评分依据
可靠性 6/20
仅提供 README 与 server.json,无源代码、CI 或已提交测试可验证。README 描述的 happy path(npx 启动、连接 OpenAI 兼容端点、八种工具)看起来可行,但初始化与工具列表握手、流式行为、错误处理均无法从源码确认;且 README 许可证徽章(Apache-2.0)与仓库 MIT 不一致,server manifest 的仓库 URL 与仓库名不一致,故不能按 10 分以上授予。
安全与权限 9/20
API key 通过环境变量传入并在 manifest 中标记为 secret,示例均使用占位符,无硬编码凭据。主要风险是 code_task_files 默认可读取任意绝对路径,仅提供可选 HOUTINI_LM_FILE_ROOTS 白名单,且没有显式确认机制;数据会发送到用户配置的本地或云端端点,文档对此有披露。未见恶意代码、凭据窃取或危险默认操作,未触发红线,但权限最小化与确认/范围控制不完整,故扣分。
维护活跃度 9/20
版本号演进可见(v2.8.0/v2.9.0/v3.2.3),npm 包版本为 3.2.3,仓库未归档且有 10 个 open issues。但缺少提交节奏、依赖更新、issue 响应和安全响应渠道的证据;README 显示 Apache-2.0 而仓库声明 MIT,许可证治理不一致。Stars 仅作为发现信号,不计入得分。
文档质量 15/20
README 覆盖面很好:快速开始、Claude Code/Claude Desktop 配置、完整工具参数表、环境变量表、兼容端点、超时/流式说明、性能跟踪、故障排查手册链接和自测说明,属于分层文档。扣分点:许可证标注冲突、manifest 仓库 URL 与仓库名不符;所引用的深层文档页(docs/manual 等)未在给定源材料中出现,无法核实其内容。
安装易用性 13/20
安装路径清晰:一条 npx 命令即可,给出 Claude Code 与 Claude Desktop 的完整配置示例;支持本地/云端点并通过环境变量配置;明确 Node >=22.5 要求。静态校准要求:无真实 CI 与已提交测试时 setup 不超过 15;且 manifest 未展示 bin 入口,npx 可执行性只能从 README 推断,因此给 13。

静态评测 · 未实际运行收录于 2026-08-07

查看 FMRS 评分方法 →

选型与风险

能访问什么读取本地文件访问网络

适合谁

  • 已将Claude Code用于大型重构、希望降低令牌费用的开发者。
  • 拥有本地GPU服务器并希望利用本地模型处理重复任务的用户。
  • 需要从Claude卸载边界清晰且时间要求不高的任务。
  • 熟悉MCP和OpenAI兼容API的开发者。

不适合谁

  • 需要强推理或工具访问的任务,应保留在Claude上。
  • 需要实时交互且延迟敏感的场景,因为本地推理可能比前端模型慢3-30倍。
  • 用户不需要MCP服务器,而是希望直接调用LLM API的用例。
  • 不打算使用Claude Code或Claude Desktop作为MCP客户端的用户。

所需权限

  • 读取系统上的本地文件(当使用code_task_files工具时)。
  • 创建与读取本地SQLite数据库文件(~/.houtini-lm/model-cache.db)。
  • 发送网络请求到LLM端点(本地或云)。
  • 运行Node.js过程。

风险与副作用

  • 将代码或数据发送到本地或云LLM可能导致信息泄露,尤其是使用云API时。
  • 在本地模型上运行不受信任的代码可能引入安全漏洞。
  • 过度依赖本地模型可能降低输出质量,因为本地模型可能能力较弱。
  • MCP服务器可能意外暴露本地文件系统路径,因此使用code_task_files时需谨慎。
  • 令牌节省可能被低估,因为本地推理可能消耗更多时间或资源。

安装接入

准备工作

运行环境:Node.js 22.5+

HOUTINI_LM_API_KEY 可选密钥 API 鉴权 Bearer token;本地端点留空即可,云端(DeepSeek/Groq/Cerebras/OpenRouter)需在其控制台获取。
其他可选配置项(10 个)
HOUTINI_LM_ENDPOINT_URL 可选 OpenAI 兼容 API 的基础 URL(如 http://localhost:1234 为 LM Studio 默认),未设置时使用该默认值。
HOUTINI_LM_MODEL 可选 指定模型 ID;留空则自动检测已加载的模型。
HOUTINI_LM_PROVIDER 可选 强制指定后端类型(如 openrouter);通常可由端点 URL 自动检测。
HOUTINI_LM_CONTEXT_WINDOW 可选 API 未报告上下文窗口时的回退值,默认 100000。
HOUTINI_LM_FILE_ROOTS 可选 允许 code_task_files 读取的目录根白名单(冒号/逗号分隔);不设则允许任意绝对路径。
HOUTINI_LM_MAX_FILE_MB 可选 code_task_files 单文件大小上限,默认 10 MB。
HOUTINI_LM_CROSS_PROCESS_LOCK 可选 设为 0 可仅禁用跨进程推理锁。
HOUTINI_LM_SERIALISE 可选 设为 0 可完全禁用推理串行化,适合原生支持并发的后端(如 vLLM)。
HOUTINI_LM_MIN_TOKENS 可选 调用方传入 max_tokens 的下限,默认 4096;设为 0 则尊重任意值。
HOUTINI_LM_THINKING 可选 思考模式控制:auto 自动检测,off 强制关闭思考,on 强制开启。
  1. 确保已安装Node.js ≥ 22.5(推荐≥ 22.13)。
  2. 对于Claude Code,运行:claude mcp add houtini-lm -- npx -y @houtini/lm
  3. 对于其他客户端,在MCP客户端配置中添加类似配置(如claude_desktop_config.json中的示例)。
  4. 可选:如果LLM在其他机器上,设置环境变量HOUTINI_LM_ENDPOINT_URL为你的LLM服务器的URL(例如http://192.168.1.50:1234)。
  5. 如果端点需要认证,设置HOUTINI_LM_API_KEY。
  6. 如果使用OpenRouter,可设置HOUTINI_LM_MODEL来指定模型。
claude_desktop_config.json
{
  "mcpServers": {
    "houtini-lm": {
      "command": "npx",
      "args": [
        "-y",
        "@houtini/lm"
      ],
      "env": {
        "HOUTINI_LM_ENDPOINT_URL": "http://localhost:1234"
      }
    }
  }
}

以 Claude Desktop 为例。其他客户端的配置文件位置或字段可能不同(如 VS Code 使用 servers 字段),可用下方配置生成器转换。

.vscode/mcp.json
{
  "servers": {
    "houtini-lm": {
      "command": "npx",
      "args": [
        "-y",
        "@houtini/lm"
      ],
      "env": {
        "HOUTINI_LM_ENDPOINT_URL": "http://localhost:1234"
      }
    }
  }
}

写入项目的 .vscode/mcp.json(VS Code 使用 servers 字段)。

Terminal
claude mcp add houtini-lm -e HOUTINI_LM_ENDPOINT_URL=http://localhost:1234 -- npx -y @houtini/lm

在终端运行;先把 <…> 占位符换成你自己的值。

验证是否装好

安装后在客户端工具列表中应出现 chat、custom_prompt、code_task、code_task_files、embed、discover、list_models、stats 八个工具;先调用 discover,如能返回模型名称、上下文窗口和实测 tok/s,即说明与本地或云端 LLM 端点连接成功。

常见排障

  1. 启动时如果无法连接LLM端点,检查HOUTINI_LM_ENDPOINT_URL是否正确且LLM服务器正在运行。
  2. 如果收到空响应或超时,检查模型是否未加载或上下文窗口是否过小。
  3. 如果使用推理模型,请确保HOUTINI_LM_THINKING设置为适当值,或检查后端是否支持推理分离。
  4. 如果code_task_files拒绝文件,检查文件大小是否超过HOUTINI_LM_MAX_FILE_MB或路径是否在允许的根目录内。
  5. 运行npm run shakedown进行端到端自检,以验证安装和模型能力。

试试这样问

连接成功后,可以直接对 AI 助手这样说:

  • 调用 discover 看看我的本地 LLM 是否可用、速度是多少
  • 把这段 TypeScript 函数发给本地模型,让它写测试用例(用 code_task)
  • 用 list_models 列出服务器上所有已加载和已下载的模型及其擅长任务
  • 对 src/utils 目录下的几个文件做一次代码审查,用 code_task_files 直接从磁盘读取

工具能力 8

chat 只读
向本地或云端LLM发送任务并获取回答,是主要的卸载工具。
custom_prompt 只读
使用系统、上下文、指令三部分分离的提示词,减少上下文污染。
code_task 只读
针对代码分析,提供预配置的系统提示和输出约束。
code_task_files 只读
让本地LLM直接从磁盘读取文件进行分析,源文件不经过MCP客户端的上下文窗口。
embed 只读
通过OpenAI兼容的embedding端点生成文本嵌入。
discover 只读
检查LLM服务器的健康状态和速度,包括模型名称、上下文窗口、连接延迟和实测tok/s。
list_models 只读
列出服务器上所有已加载和已下载的模型,包含来自HuggingFace的元数据。
stats 只读
以markdown格式导出卸载统计信息,包括会话和生命周期总值。

使用场景

生成测试存根、代码审查、提交消息、格式转换、模拟数据、类型定义等边界清晰的任务。
通过本地推理节省令牌成本,尤其是使用LM Studio或Ollama运行本地模型时。
云端API(如DeepSeek、Groq、Cerebras)与OpenRouter的300+模型。
文本嵌入用于语义搜索或RAG流水线。

支持客户端

Claude Desktop
Claude Code

依据项目文档列出,未经本站实测。

详细介绍

Houtini LM是一个MCP服务器,它连接Claude Code到任何兼容OpenAI的LLM端点(如LM Studio、Ollama、vLLM、DeepSeek、Groq、Cerebras),通过将边界清晰的任务(如生成样板代码、代码审查、提交消息、格式转换等)委托给更便宜的本地或云端模型,从而节省Claude的令牌消耗。Claude保留架构规划、多文件更改等复杂推理工作,而本地模型处理重复性工作。它提供自动模型路由、性能跟踪、结构化JSON输出和模型发现功能。

同类可选方案

Context7 80 · B

Upstash 官方维护,为 AI 编码助手提供实时更新的第三方库文档

★ 62.9k · 工具数 2 与当前对比 →

源版本 68717f3dbe63 数据同步于 2026-10-12 查看 FMRS 评分方法