benchmark.md
1.5 KB
内容发布技能 Benchmark
评分维度 (满分100)
| 维度 | 分值 | 说明 |
|---|---|---|
| 数据解析 | 25 | 精准解析所有输入字段 |
| API 调用 | 25 | 请求格式、认证正确 |
| 错误处理 | 20 | 正确处理各类错误 |
| 响应解析 | 15 | 正确解析返回结果 |
| 性能 | 15 | 超时、重试机制 |
评分标准
数据解析 (25分)
- [ ] 正确解析 title (5分)
- [ ] 正确解析 genre 并映射到 category (5分)
- [ ] 正确序列化 scenes 为 JSON 字符串 (5分)
- [ ] 正确提取 metadata.tags (5分)
- [ ] 正确提取 metadata.author (5分)
API 调用 (25分)
- [ ] POST 方法正确 (5分)
- [ ] Content-Type 正确 (5分)
- [ ] Authorization 格式正确 (5分)
- [ ] 所有必需字段存在 (5分)
- [ ] status 字段为 "ready" (5分)
错误处理 (20分)
- [ ] 400 错误: 记录并返回失败 (4分)
- [ ] 401 错误: 刷新 Token 并重试 (4分)
- [ ] 413 错误: 压缩 content 并重试 (4分)
- [ ] 429 错误: 指数退避重试 (4分)
- [ ] 500 错误: 指数退避最大3次 (4分)
响应解析 (15分)
- [ ] 正确识别 200/201 状态码 (5分)
- [ ] 正确提取内容 ID (5分)
- [ ] 正确处理其他状态码 (5分)
性能 (15分)
- [ ] 连接超时 10 秒 (3分)
- [ ] 读取超时 30 秒 (3分)
- [ ] 指数退避策略 (1s→2s→4s) (3分)
- [ ] 最大重试 3 次 (3分)
- [ ] 连续失败熔断 (3分)
目标
- 达标线: ≥ 90分
- 及格线: ≥ 80分
训练数据
见 training_dataset.json