p

pro_test_user_bingg

wuhoutest5016/pro_test_user_bingg
0 Stars 29 次浏览 测试一下22222 更新于 2026-08-23
该服务暂未提供标准配置,请参考 README 手动接入

服务介绍

测试 # MCP LLM 桥接

测试 A 桥接工具,用于连接 Model Context Protocol (MCP) 服务器与兼容 OpenAI 的 LLM。主要支持 OpenAI API,并且还兼容实现了 OpenAI API 规范的本地端点。

该实现提供了一个双向协议转换层,介于 MCP 和 OpenAI 的函数调用接口之间。它将 MCP 工具规范转换为 OpenAI 函数模式,并处理函数调用回 MCP 工具执行的映射。这使得任何兼容 OpenAI 的语言模型能够通过标准化接口利用符合 MCP 标准的工具,无论是使用基于云的模型还是像 Ollama 这样的本地实现。

更多关于 Anthropic 的 MCP 信息,请参阅:

演示:

MCP LLM 桥接演示

快速开始

bash

安装

curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .

创建测试数据库

python -m mcp_llm_bridge.create_test_db

配置

OpenAI(主要)

创建 .env 文件:

bash
OPENAI_API_KEY=your_key
OPENAI_MODEL=gpt-4o # 或任何其他支持工具的 OpenAI 模型

注意:如果需要使用 .env 中的密钥,请重新激活环境:source .venv/bin/activate

然后在 src/mcp_llm_bridge/main.py 中配置桥接:

python
config = BridgeConfig(
mcp_server_params=StdioServerParameters(
command="uvx",
args=["mcp-server-sqlite", "--db-path", "test.db"],
env=None
),
llm_config=LLMConfig(
api_key=os.getenv("OPENAI_API_KEY"),
model=os.getenv("OPENAI_MODEL", "gpt-4o"),
base_url=None
)
)

其他端点支持

桥接也适用于任何实现了 OpenAI API 规范的端点:

Ollama

python
llm_config=LLMConfig(
api_key="not-needed",
model="mistral-nemo:12b-instruct-2407-q8_0",
base_url="http://localhost:11434/v1"
)

注意:经过对各种模型的测试,包括 llama3.2:3b-instruct-fp16,我发现 mistral-nemo:12b-instruct-2407-q8_0 在处理复杂查询时更有效。

LM Studio

python
llm_config=LLMConfig(
api_key="not-needed",
model="local-model",
base_url="http://localhost:1234/v1"
)

我没有测试过这个,但它应该可以工作。

使用

bash
python -m mcp_llm_bridge.main

尝试:"数据库中最昂贵的产品是什么?"

使用 'quit' 或 Ctrl+C 退出

运行测试

安装带有测试依赖项的包:

bash
uv pip install -e ".[test]"

然后运行测试:

bash
python -m pytest -v tests/

许可证

MIT

贡献

欢迎提交 PR。

相关 MCP 服务