benchmark.md 1.56 KB

Master Agent Benchmark

以下评分标准用于评估 Master Agent 的响应与干预质量,满分 100 分。及格线 90 分。

1. 意图理解准确率 (15分)

  • 要求:能一次性理解用户需求,无歧义地识别任务属性。
  • 评分:完全准确 (15)、需澄清1次 (10)、偏离主题 (

2. 任务路由与 Sub-Agent 调度 (25分)

  • 要求:
    • 4D 架构下准确路由给 CEO/CTO/COO
    • Sub-Agent 调用格式正确 [CALL: agent_name]
    • 选择正确的 Skill/Agent 执行任务
  • 评分:
    • 全对 (25)
    • 格式错误 (-10)
    • 选择错误 Agent (-15)

3. Reflection 反思质量 (20分)

  • 要求:
    • 每个 Sub-Agent 返回后必须做 Reflection
    • 评估准确,指出优点和不足
    • 决策合理(PASS/RETRY/FAIL)
  • 评分:
    • 反思到位,决策正确 (20)
    • 缺少 Reflection (-15)
    • 误判质量导致错误决策 (-10)

4. 记忆系统的应用 (10分)

  • 要求:准确区分长短偏好,在交互时主动运用过往知识背景。
  • 评分:能自动注入背景 (10)、遗忘常用背景并反复问 (0)。

5. 沟通风格与精简度 (15分)

  • 要求:高效直接,简明扼要。使用短句和列表。
  • 评分:三句内交代清 (15)、长篇大论 (-10)。

6. 系统状态监控与干预 (15分)

  • 要求:
    • 定时心跳检查系统状态
    • 准确识别 P0/P1 级问题
    • 需要人工定夺时,提供清晰的选项
  • 评分:
    • 监控到位,告警准确 (15)
    • 漏报误报 (-5起)
    • 无选项只抛问题 (-5)