Arcade 推出的 ToolBench:41,000 个 MCP 服务器与工具质量危机
ToolBench 是初创公司 Arcade 推出的一个公共基准测试,已索引 41,921 个 MCP 服务器,并分析了 218,422 个工具。结果显示:仅有 0.5% 的工具达到了 A 级或更高。76.6% 的工具获得 F 级——满分 100 分不到 50 分。这表明生态系统尚不成熟,服务器数量增长快于质量提升。
MCP(Model Context Protocol)是一种将 AI 代理与外部工具集成的开放标准。到 2026 年 3 月,该协议的 SDK 每月下载量达 9700 万次。获得 OpenAI、Google、Microsoft 的支持,并移交给 Linux Foundation。但 ToolBench 揭示:在 42,000 个服务器中,只有大约一千个工具可靠,可用于生产环境。
ToolBench 评估标准
该基准测试从四个维度评估服务器,每个维度权重不同。方法论基于 Arcade 针对企业客户 8000 多个生产工具开发的 54 种代理工具模式。
对于本地服务器:
- 工具描述质量(50% 权重):准确性、完整性、与实际能力的一致性。
- MCP 协议合规性(20%):JSON schema 有效性、调用处理。
- 可维护性(30%):GitHub 星标数、提交频率、许可证可用性。
对于远程服务器,用安全性取代描述评估:
- OAuth 2.0 和 PKCE。
- 认证正确性。
分数转换为等级:A+(90–100)、A(80–89)、...、F(<50)。
| 评级 | 分数 | 工具占比 |
|--------|--------|----------------|
| A+–A | 80+ | 0.5% |
| B–C | 50–79 | 23.4% |
| F | <50 | 76.6% |
AI 代理面临的障碍
问题不仅限于服务器。企业平台抵制代理访问。Slack、Workday 和 LinkedIn 限制第三方 AI 的 API 访问。Arcade 首席执行官 Alex Salazar 指出:即使现有 MCP 服务器也因提供商严格限制而无用。
这形成恶性循环:协议在增长,但代理无法在真实场景中使用工具。中高级开发者在为生产环境选择 MCP 服务器时,应考虑这些指标。
关键要点:
- 根据 ToolBench,76.6% 的 MCP 工具不合格(<50 分)。
- 本地服务器按描述(50%)、协议(20%)和可维护性(30%)评分。
- 远程服务器按 OAuth/PKCE 和认证取代描述评分。
- 企业 API(Slack、LinkedIn)即使服务器可用,也会阻挡代理。
- 在 42K 个服务器中,约 1K 个工具适用于生产。
对开发者的影响
ToolBench 提供可量化的指标来筛选服务器。资深 AI 代理开发者可集成其 API 进行自动化验证。MCP 生态需要注重质量:更好的描述、标准化安全性和提升可维护性。
SDK 下载量增长至 9700 万次凸显紧迫性:协议已归入 Linux Foundation,但若无质量保障,代理将始终局限于沙盒。建议——在生产栈中优先选择 ToolBench A/B 级服务器。
— Editorial Team
暂无评论。