benchmark.md 3.28 KB

Reddit 短剧内容抓取评估基准 v2

技能名称: reddit-scraper-v2 版本: v1.0.0 构建时间: 2026-03-25 构建Agent: Digester 任务编号: T-mn5ya7ls


一、评分体系概览

1.1 评估维度

维度 权重 分值范围 核心考察点
抓取准确性 (Accuracy) 25% 0-25 字段完整度、数据清洗质量
内容筛选质量 (Filtering) 30% 0-30 戏剧性识别准确率、高价值内容捕获
提取完整性 (Extraction) 25% 0-25 drama_elements字段覆盖、特征提取完整
JSON格式规范性 (Output) 20% 0-20 schema合规度、数据类型正确
总分 100% 0-100 -

1.2 行业基准线

行业平均分 (industry_avg_score): 75
精英平均分 (elite_avg_score): 88

二、维度评分标准

2.1 抓取准确性 - 25分

分数 等级 描述
5分 卓越 100%字段完整,数据清洗完美
4分 优秀 >95%完整度
3分 良好 >90%完整度
2分 及格 >80%完整度
1分 不足

字段权重: id(10%), subreddit(10%), title(20%), content(20%), score(15%), num_comments(15%), upvote_ratio(10%)

2.2 内容筛选质量 - 30分

分数 等级 描述
6分 卓越 高戏剧性内容捕获>90%,误判率
5分 优秀 捕获>85%,误判率
4分 良好 捕获>80%,误判率
3分 及格 捕获>70%,误判率
2分 不足 捕获

高戏剧性标准: drama_score ≥ 7.0

2.3 提取完整性 - 25分

分数 等级 描述
5分 卓越 所有特征100%提取,分类精准
4分 优秀 >90%提取准确率
3分 良好 >80%提取准确率
2分 及格 >70%提取准确率
1分 不足

2.4 JSON格式规范性 - 20分

分数 等级 描述
4分 卓越 100%符合Schema
3分 优秀 >98%合规
2分 良好 >95%合规
1分 及格 >90%合规

三、等级划分

总分区间 等级 描述
95-100 S+ 卓越,行业标准
90-94 S 精英水平
80-89 A 优秀水平
75-79 B 良好,符合行业标准
60-74 C 及格,需改进
50-59 D 不足
0-49 F 失败

四、测试用例设计

4.1 测试覆盖

类型 数量 说明
高戏剧性(≥7.0) 4 继承纠纷、关系危机等
中戏剧性(5.0-7.0) 3 一般冲突
低戏剧性( 3 轻微冲突或 humor

4.2 关键测试场景

场景1: 高冲突继承纠纷

  • 输入: inheritance_family类型,高score/comment
  • 预期: drama_score ≥ 8.0, adaptation_potential=high

场景2: 低冲突幽默内容

  • 输入: funny板块,高upvote_ratio
  • 预期: drama_score

场景3: 已删除内容

  • 输入: content包含"[removed]"
  • 预期: 标记exclude,data_quality_score降低

场景4: 字段缺失

  • 输入: 缺少num_comments或upvote_ratio
  • 预期: 完整性扣分,但基础功能正常

评估基准版本: v1.0.0 构建时间: 2026-03-25