← 返回目录
L

LLM Checker MCP Server

社区
根据本机硬件选择并管理本地 LLM。
GitHub 源仓库 ↗
★ 2.9k Stars 分类 · 开发工具 非常热门 源版本 8935c9e77e51
50FMRS · D
可靠性
7/20
安全与权限
8/20
维护活跃度
8/20
文档质量
14/20
安装易用性
13/20

资料显示该服务器将 LLM Checker 的硬件分析、确定性模型推荐、Ollama 管理、基准测试、策略审计和模型结构验证能力暴露给 MCP 客户端。它适合本地模型工作流;资料未证明其为 Ollama、MCP 或其他上游产品的官方服务器。

查看 FMRS 评分方法 →

LLM Checker 是一个内置 MCP 服务器的命令行工具。它检测 CPU、GPU、内存和加速后端,使用确定性的质量、速度、适配度和上下文评分,为本地推理推荐模型,并可通过 Ollama 搜索、下载、运行和删除模型。它还支持多来源模型注册表、基准测试、策略审计、校准路由、项目级推荐以及 GGUF 和 safetensors 文件的结构安全验证。

工具能力

hw_detect
检测 CPU、GPU、内存和加速后端。
check
对模型执行完整的硬件兼容性分析并排序。
recommend
按类别推荐模型。
installed
对已下载的 Ollama 模型进行兼容性排序。
search
搜索 Ollama 模型目录并应用筛选条件。
smart_recommend
使用完整评分引擎生成高级推荐。
gpu_plan
规划单 GPU 或多 GPU 的模型放置和运行时设置。
verify_context
检查本地模型在可用内存下的实际上下文限制。
ollama_plan
为本地模型计算安全的 Ollama 容量和运行时设置。
ollama_plan_env
返回可直接粘贴的 Ollama 环境变量。
policy_validate
验证策略文件是否符合 v1 schema。
audit_export
导出 check 或 recommend 的策略合规报告。
calibrate
根据提示词套件生成校准结果和路由策略。
verify_model
使用 ModelVet 对 GGUF 或 safetensors 文件执行结构安全验证。
amd_guard
执行 AMD/Windows 可靠性检查并提供缓解建议。
toolcheck
测试本地 Ollama 模型的工具调用兼容性。
ollama_list
列出已下载模型及其参数、量化、家族和大小。
ollama_pull
从 Ollama 注册表下载模型。
ollama_run
使用本地模型运行提示词并显示 tokens/sec 指标。
ollama_remove
删除 Ollama 模型以释放磁盘空间。
ollama_optimize
为当前硬件生成 Ollama 优化环境变量。
benchmark
使用三个标准提示词测试模型速度和加载指标。
compare_models
在相同提示词下并排比较两个模型的速度和响应。
cleanup_models
分析已安装模型并发现冗余、过大或云端模型。
project_recommend
扫描项目并为代码库推荐模型。
ollama_monitor
显示系统状态、已加载模型和内存余量。
cli_help
列出 MCP 暴露的命令行命令。
cli_exec
执行 allowlist 中的 LLM Checker CLI 命令。

安装接入

先安装 Node.js 18+ 和 Ollama,再运行 npm install -g llm-checker。使用 llm-checker mcp-setup --client <client> 查看或应用客户端配置;也可以将提供的 npx 配置加入支持 MCP 的客户端。修改配置后重启客户端。

claude_desktop_config.json
{"mcpServers":{"llm-checker":{"command":"npx","args":["--yes","--package","llm-checker","llm-checker-mcp"]}}}

选型与风险

适合谁

  • 希望在本地运行 LLM 的开发者
  • 需要硬件感知模型选择和 Ollama 管理的用户
  • 需要确定性评分、校准路由或策略审计的团队
  • 需要在运行前执行结构安全检查的用户

不适合谁

  • 不使用 Node.js 或本地 Ollama 的用户
  • 需要云端模型托管而非本地推理的场景
  • 需要对模型行为、来源或权重投毒进行完整安全保证的场景
  • 需要超出 MCP 暴露 allowlist 的任意系统命令执行的场景

所需权限

  • 读取本机 CPU、GPU、内存和加速后端信息
  • 访问本地 Ollama 模型目录和运行中的 Ollama 环境
  • 根据调用的工具读写模型、下载模型、运行提示词或删除模型
  • 在项目推荐和模型验证场景中读取指定项目目录或模型文件
  • 执行 LLM Checker allowlist 中的 CLI 命令

风险与副作用

  • ollama_pull 会下载模型并消耗网络流量和磁盘空间。
  • ollama_remove 会删除本地模型并释放其占用的磁盘空间。
  • ollama_run 和 cli_exec 会在本机运行命令或模型工作流,应审查提示词和参数。
  • 结构验证仅说明文件结构可安全加载,不代表模型行为、来源或权重没有问题。
  • 超过 3 GiB 的文件可能超出 WASM32 验证内存上限并返回不可验证结果。

常见排障

  1. 确认 Node.js 版本为 18 或更高,并确认 Ollama 已安装。
  2. 如果数据库命令提示缺少 sql.js,使用 npm install -g llm-checker --include=optional 重新安装。
  3. 先运行 llm-checker hw-detect 检查硬件检测结果,再运行 sync 刷新 Ollama 目录。
  4. 确认 MCP 配置中的命令使用 npx --yes --package llm-checker llm-checker-mcp,之后重启客户端。
  5. 模型运行或下载失败时,检查 Ollama 是否可用、模型是否已下载以及本机内存和磁盘空间。

使用场景

根据本机硬件选择编码、推理、通用或多模态模型
管理、运行、基准测试和比较本地 Ollama 模型
搜索 Hugging Face、Ollama 和 GPT4All 的模型制品
为 Ollama 生成硬件相关的运行时配置
在加载模型前验证 GGUF 或 safetensors 文件结构

支持客户端

Claude Code完整支持
OpenAI Codex完整支持
Grok完整支持
Kimi Code完整支持
Cursor完整支持
Windsurf完整支持
Gemini CLI完整支持