pro_test_user_bingg
服务介绍
测试 # MCP LLM 桥接
测试 A 桥接工具,用于连接 Model Context Protocol (MCP) 服务器与兼容 OpenAI 的 LLM。主要支持 OpenAI API,并且还兼容实现了 OpenAI API 规范的本地端点。
该实现提供了一个双向协议转换层,介于 MCP 和 OpenAI 的函数调用接口之间。它将 MCP 工具规范转换为 OpenAI 函数模式,并处理函数调用回 MCP 工具执行的映射。这使得任何兼容 OpenAI 的语言模型能够通过标准化接口利用符合 MCP 标准的工具,无论是使用基于云的模型还是像 Ollama 这样的本地实现。
更多关于 Anthropic 的 MCP 信息,请参阅:
演示:

快速开始
bash
安装
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .
创建测试数据库
python -m mcp_llm_bridge.create_test_db
配置
OpenAI(主要)
创建 .env 文件:
bash
OPENAI_API_KEY=your_key
OPENAI_MODEL=gpt-4o # 或任何其他支持工具的 OpenAI 模型
注意:如果需要使用 .env 中的密钥,请重新激活环境:source .venv/bin/activate
然后在 src/mcp_llm_bridge/main.py 中配置桥接:
python
config = BridgeConfig(
mcp_server_params=StdioServerParameters(
command="uvx",
args=["mcp-server-sqlite", "--db-path", "test.db"],
env=None
),
llm_config=LLMConfig(
api_key=os.getenv("OPENAI_API_KEY"),
model=os.getenv("OPENAI_MODEL", "gpt-4o"),
base_url=None
)
)
其他端点支持
桥接也适用于任何实现了 OpenAI API 规范的端点:
Ollama
python
llm_config=LLMConfig(
api_key="not-needed",
model="mistral-nemo:12b-instruct-2407-q8_0",
base_url="http://localhost:11434/v1"
)
注意:经过对各种模型的测试,包括 llama3.2:3b-instruct-fp16,我发现 mistral-nemo:12b-instruct-2407-q8_0 在处理复杂查询时更有效。
LM Studio
python
llm_config=LLMConfig(
api_key="not-needed",
model="local-model",
base_url="http://localhost:1234/v1"
)
我没有测试过这个,但它应该可以工作。
使用
bash
python -m mcp_llm_bridge.main
尝试:"数据库中最昂贵的产品是什么?"
使用 'quit' 或 Ctrl+C 退出
运行测试
安装带有测试依赖项的包:
bash
uv pip install -e ".[test]"
然后运行测试:
bash
python -m pytest -v tests/
许可证
贡献
欢迎提交 PR。