LLM Responses MCP 服务器

一个模型上下文协议 (MCP) 服务器，允许多个 AI 代理共享并读取彼此对同一提示的响应。

概览

该项目实现了一个 MCP 服务器，包含两个主要工具调用：

1. submit-response：允许一个 LLM 提交其对某个提示的响应
2. get-responses：允许一个 LLM 检索其他 LLM 对特定提示的所有响应

这使得可以实现如下场景：用户可以向多个 AI 代理询问同一个问题，然后通过这些工具，代理可以阅读并反思其他 LLM 对同一问题的回答。

安装

# Install dependencies
bun install

开发

# Build the TypeScript code
bun run build

# Start the server in development mode
bun run dev

使用 MCP Inspector 进行测试

该项目支持 MCP Inspector，这是一个用于测试和调试 MCP 服务器的工具。

# Run the server with MCP Inspector
bun run inspect

inspect 脚本使用 npx 来运行 MCP Inspector，它将在您的浏览器中启动一个 Web 界面，以便与您的 MCP 服务器进行交互。

这将使您能够：

• 探索可用的工具和资源
• 使用不同参数测试工具调用
• 查看服务器的响应
• 调试您的 MCP 服务器实现

使用

服务器暴露了两个端点：

• /sse - 供 MCP 客户端连接的 Server-Sent Events 端点
• /messages - 供 MCP 客户端发送消息的 HTTP 端点

MCP 工具

submit-response

提交 LLM 对某个提示的响应：

// Example tool call
const result = await client.callTool({
  name: 'submit-response',
  arguments: {
    llmId: 'claude-3-opus',
    prompt: 'What is the meaning of life?',
    response: 'The meaning of life is...'
  }
});

get-responses

检索所有 LLM 的响应，可选地按提示过滤：

// Example tool call
const result = await client.callTool({
  name: 'get-responses',
  arguments: {
    prompt: 'What is the meaning of life?' // Optional
  }
});

许可证

MIT

部署到 EC2

该项目包括 Docker 配置，便于部署到 EC2 或任何其他服务器环境。

前提条件

• 运行 Amazon Linux 2 或 Ubuntu 的 EC2 实例
• 安全组配置为允许端口 62886 上的入站流量
• 对实例的 SSH 访问权限

部署步骤

1. 将仓库克隆到您的 EC2 实例：

   git clone <your-repository-url>
   cd <repository-directory>
   

2. 使部署脚本可执行：

   chmod +x deploy.sh
   

3. 运行部署脚本：

   ./deploy.sh
   

该脚本将：

• 如果尚未安装，则安装 Docker 和 Docker Compose
• 构建 Docker 镜像
• 以分离模式启动容器
• 显示您的 MCP 服务器可访问的公共 URL

手动部署

如果您更喜欢手动部署：

1. 构建 Docker 镜像：

   docker-compose build
   

2. 启动容器：

   docker-compose up -d
   

3. 验证容器正在运行：

   docker-compose ps
   

访问服务器

部署完成后，您的 MCP 服务器将可通过以下地址访问：

• http://<ec2-public-ip>:62886/sse - SSE 端点
• http://<ec2-public-ip>:62886/messages - 消息端点

请确保在您的 EC2 安全组中打开了端口 62886！