RAG-MCP 服务器

一个使用模型控制协议（MCP）的通用检索增强生成（RAG）服务器，设计用于与 RISC Zero 的 Bonsai 文档一起测试。

概览

该项目实现了一个 RAG 服务器，该服务器：

• 使用 MCP（模型控制协议）进行标准化通信
• 实现了用于文档查询的 RAG（检索增强生成）工作流程
• 可以使用 RISC Zero 的 Bonsai 文档进行测试
• 通过 Ollama 支持本地 LLM 集成

特性

• 文档摄取和索引
• 语义搜索功能
• 本地 LLM 集成
• 符合 MCP 协议
• 支持 RISC Zero Bonsai 文档

先决条件

• Python 3.12+
• Ollama（用于本地 LLM 支持）
• Poetry（用于依赖管理）

安装

1. 安装 Python 依赖项：

poetry install

1. 安装并启动 Ollama：

# Install Ollama
brew install ollama  # for macOS
# or
curl -fsSL https://ollama.com/install.sh | sh  # for Linux

# Start Ollama service
ollama serve

1. 拉取所需的模型：

ollama pull llama2

使用方法

1. 启动 MCP 服务器：

poetry run python mcp_server.py

1. 服务器将：

   • 初始化 LLM 和嵌入模型
   • 从数据目录中摄取文档
   • 使用 RAG 工作流处理查询

2. 使用 RISC Zero Bonsai 文档进行测试：

   • 将 RISC Zero Bonsai 文档放在 data/ 目录中
   • 向服务器查询有关 Bonsai 功能和实现的信息

项目结构

• mcp_server.py：主服务器实现
• rag.py：RAG 工作流实现
• data/：文档摄取目录
• storage/：向量存储和文档存储
• start_ollama.sh：启动 Ollama 服务的脚本

使用 RISC Zero Bonsai 进行测试

服务器配置为与 RISC Zero 的 Bonsai 文档一起工作。您可以：

1. 将 Bonsai 文档添加到 data/ 目录
2. 查询有关 Bonsai 功能、实现细节和用法的信息
3. 使用特定于 Bonsai 的问题测试 RAG 工作流

由 proofofsid 用 ❤️ 制作