prd-success-metrics.md 3.62 KB

成功指标与 KPI

三层指标:P0 阶段验收(每阶段闸门)、P1 北极星(整体存活)、P2 长期质量(运营期)。每条都给具体数字,便于「过没过」的二值判断。

P0 · 阶段闸门指标(每阶段必须 100%)

阶段 指标 目标 测量方式
P1 curl 一句话需求 → 三份文档落盘 ≥ 90% 成功率(10 次抽样) integration test
PRD/SDD HTML 通过 cheerio 校验 100% DocStore.validateHTML
units.json schema 校验 100% typebox
P2 单 Unit 红→绿收敛率 ≥ 80% 在 3 次 retry 内 10 个 demo Unit 跑 100 次
retryWithReflection 二次失败率 ≤ 30% 同上
沙箱越权写 0 次 越权写直接拒绝
P3 「contract_mismatch」演示自愈 ≥ 90% 一轮内修复 注入 5 种典型 mismatch
L2 总修复轮次 平均 ≤ 1.5 同上
impl_bug 与 spec_ambiguous 归类正确率 ≥ 85% 30 个标注 case
P4 Dashboard SSE 端到端延迟 ≤ 2s(P95) 手动 stopwatch + 浏览器 perf
PRD diff 面板渲染正确率 100% 10 个 rev 切换
L3 反馈 → 增量 reset 准确率 ≥ 95% diff_units 单测

P1 · 北极星 KPI(系统整体)

速度

「TODO API + 前端」从需求 → shipped 端到端

成本

Token / 上述 demo

无人化率

≥ 80%

项目从启动到 shipped 不需人工干预的比例

在 P4 演示日同时满足三条 = 系统达成 MVP。任意一条不达就视为失败,回到 P3 调优。

P2 · 长期质量 KPI(运营期)

维度 指标 目标 采集
收敛性 blocked 项目比例(30 天内) ≤ 10% UnitRegistry 累计
收敛性 l2_exhausted 比例 ≤ 5% LoopController 日志
质量 shipped 项目人工返工率 ≤ 20% 人工标注
质量 contract.json 与 SDD 一致性 100% DocStore 校验
反思有效性 retry-2 比 retry-1 失败率降幅 ≥ 40% runs/result.json 统计
成本 平均 Token / 项目 持续下降趋势 token_budget 累计
速度 平均墙钟 / 项目 ≤ 1 小时 project.json 时间戳
文档健康 PRD section 与代码 unit 对齐率 ≥ 90% 每周脚本扫描
复现力 外部 Claude Code 复现成功率 ≥ 70% 季度复现实验

反指标(不要追的东西)

  • 不追「项目数量」 — 一个跑通的项目 >> 十个挂起的项目。
  • 不追「代码行数」 — Coder 写 200 行能解决的就不要 500 行。
  • 不追「Agent 调用次数」 — 调用次数越多越花钱,不是越「努力」越好。
  • 不追「PRD rev 数量」 — rev 多说明需求不清晰,不说明产品丰富。

验收清单(P4 演示日)

# 项 判定
1 从空项目 curl 启动 TODO 需求 30s 内 prd.html v1 落盘 ✓
2 L1 全部 Unit 通过 ≤ 3 次 retry / Unit ✓
3 L2 通过 ≤ 1 次 L2 round ✓
4 追加「加 OAuth」反馈 仅 oauth-be + oauth-fe + auth-mw 入 L1,其他不动 ✓
5 注入 contract mismatch BugTriager 一轮内修复 ✓
6 Dashboard 全程实时跟随 SSE 不丢、不重复 ✓
7 shipped 后归档 history/ 完整 ✓
8 外部 Claude Code 用 PRD 复现整套 DevLoop 5 文件 + 6 模板生成,单测 ≥ 80% 绿 ✓

8 项全 ✓ → 系统可对外宣布 v1.0。