适合谁
- 需要本地优先、不依赖外部服务器的 RAG 场景
- 需要高精度引用的问答系统
- 需要处理包含图片的文档并支持视觉问答的科研或文档分析
- 需要灵活选择嵌入和重排序提供商的开发者
H
40FMRS · D
Haiku RAG 是一个功能丰富的智能体 RAG 服务器，结合了 LanceDB、Pydantic AI 和 Docling，提供混合搜索、多模态搜索、引用问答和分析能力。适合本地优先的 RAG 应用，但需注意沙箱代码执行的风险以及非官方维护的属性。
Haiku RAG 是一个由意见驱动的智能体 RAG 系统，由 LanceDB、Pydantic AI 和 Docling 驱动。它提供混合搜索（向量+全文，带倒数排名融合）、多模态与跨模态搜索（文本查图、图片检索）、带引用的问答（页码、章节标题）、视觉问答（将图片字节与文本块一并提供给视觉模型）、重排序（本地交叉编码器、Cohere、Zero Entropy 或 vLLM）、分析能力（通过沙箱 Python 执行复杂分析）、会话式 RAG（聊天 TUI 和 Web 应用）以及文档结构存储。支持多种嵌入提供商（Ollama、OpenAI、VoyageAI、Cohere、LM Studio、vLLM）和本地优先的 LanceDB 嵌入式数据库，也支持 S3、GCS、Azure 和 LanceDB Cloud。提供 CLI、Python API 和 MCP 服务器，可作为 AI 助理（如 Claude Desktop）的工具。
工具能力
document management
用于添加、删除或管理索引文档的工具
search
在文档集合中执行混合搜索
QA
基于索引内容进行问答，并附有引用
analysis
执行复杂的分析任务，支持代码执行
安装接入
- 确保 Python 3.12 或更高版本。
- 安装完整包：
pip install haiku.rag（或使用精简包haiku.rag-slim）。 - 配置嵌入提供商（如 Ollama、OpenAI）。
- 在 Claude Desktop 配置中添加 MCP 服务器，如示例 JSON。
claude_desktop_config.json
{
"mcpServers": {
"haiku-rag": {
"command": "haiku-rag",
"args": ["mcp", "--stdio"]
}
}
}
选型与风险
不适合谁
- 完全云托管且大规模生产环境（虽然支持云存储，但主要定位本地优先）
- 无需文档结构信息或图片的简单关键字搜索
- 需要官方支持或商业保障的企业用户（项目为 MIT 许可的社区项目）
所需权限
- 文件系统访问：读取和索引本地文档
- 网络访问：从 HTTP、S3 等源获取文档，调用嵌入和 QA 提供商 API
- 执行本地代码：分析能力通过沙箱 Python 执行，可能存在安全风险
风险与副作用
- 沙箱代码执行可能存在安全风险，需确保输入可信
- 外部 API 调用（嵌入、QA）可能产生费用
- 本地数据库和数据需要妥善备份，避免数据丢失
- 该服务器并非官方维护，可能存在兼容性或稳定性问题
常见排障
- 1. 确保 Python 版本 >= 3.12。
- 2. 检查嵌入提供商是否已正确配置（如 Ollama 是否运行）。
- 3. 确认索引文档路径或 URL 可访问。
- 4. 查看文档官网或 GitHub 上的问题跟踪器。
使用场景
对 PDF 文档进行智能搜索和问答
对文档集进行多模态检索，包括图片查询
通过命令行或 Python API 进行本地优先的 RAG 应用
作为 AI 助理（如 Claude Desktop）的工具，提供文档管理和问答能力
支持客户端
Claude Desktop完整支持