返回首页

ToolBench:MCP 服务器的质量危机

来自 Arcade 的 ToolBench 评估了 41,921 个 MCP 服务器和 218,422 个工具。76.6% 因描述薄弱和安全性问题获得 F。该基准测试揭示了企业 API 对 AI 代理的障碍。

41K 个 MCP 服务器:ToolBench 检测到 76% 垃圾
Advertisement 728x90

Arcade 推出的 ToolBench:41,000 个 MCP 服务器与工具质量危机

ToolBench 是初创公司 Arcade 推出的一个公共基准测试,已索引 41,921 个 MCP 服务器,并分析了 218,422 个工具。结果显示:仅有 0.5% 的工具达到了 A 级或更高。76.6% 的工具获得 F 级——满分 100 分不到 50 分。这表明生态系统尚不成熟,服务器数量增长快于质量提升。

MCP(Model Context Protocol)是一种将 AI 代理与外部工具集成的开放标准。到 2026 年 3 月,该协议的 SDK 每月下载量达 9700 万次。获得 OpenAI、Google、Microsoft 的支持,并移交给 Linux Foundation。但 ToolBench 揭示:在 42,000 个服务器中,只有大约一千个工具可靠,可用于生产环境。

ToolBench 评估标准

该基准测试从四个维度评估服务器,每个维度权重不同。方法论基于 Arcade 针对企业客户 8000 多个生产工具开发的 54 种代理工具模式。

Google AdInline article slot

对于本地服务器

  • 工具描述质量(50% 权重):准确性、完整性、与实际能力的一致性。
  • MCP 协议合规性(20%):JSON schema 有效性、调用处理。
  • 可维护性(30%):GitHub 星标数、提交频率、许可证可用性。

对于远程服务器,用安全性取代描述评估:

  • OAuth 2.0 和 PKCE。
  • 认证正确性。

分数转换为等级:A+(90–100)、A(80–89)、...、F(<50)。

Google AdInline article slot

| 评级 | 分数 | 工具占比 |

|--------|--------|----------------|

| A+–A | 80+ | 0.5% |

Google AdInline article slot

| B–C | 50–79 | 23.4% |

| F | <50 | 76.6% |

AI 代理面临的障碍

问题不仅限于服务器。企业平台抵制代理访问。Slack、Workday 和 LinkedIn 限制第三方 AI 的 API 访问。Arcade 首席执行官 Alex Salazar 指出:即使现有 MCP 服务器也因提供商严格限制而无用。

这形成恶性循环:协议在增长,但代理无法在真实场景中使用工具。中高级开发者在为生产环境选择 MCP 服务器时,应考虑这些指标。

关键要点:

  • 根据 ToolBench,76.6% 的 MCP 工具不合格(<50 分)。
  • 本地服务器按描述(50%)、协议(20%)和可维护性(30%)评分。
  • 远程服务器按 OAuth/PKCE 和认证取代描述评分。
  • 企业 API(Slack、LinkedIn)即使服务器可用,也会阻挡代理。
  • 在 42K 个服务器中,约 1K 个工具适用于生产。

对开发者的影响

ToolBench 提供可量化的指标来筛选服务器。资深 AI 代理开发者可集成其 API 进行自动化验证。MCP 生态需要注重质量:更好的描述、标准化安全性和提升可维护性。

SDK 下载量增长至 9700 万次凸显紧迫性:协议已归入 Linux Foundation,但若无质量保障,代理将始终局限于沙盒。建议——在生产栈中优先选择 ToolBench A/B 级服务器。

— Editorial Team

Advertisement 728x90

继续阅读