benchmark_v2.md
3.59 KB
微博热搜多榜爬取与数据整合 - Benchmark v2
评分维度(8维度)
| 维度 | 权重 | 说明 |
|---|---|---|
| D1: 多榜爬取完整性 | 20% | 支持5个榜单(我的热搜/热搜榜/文娱榜/生活榜/社会榜) |
| D2: 数据合并与存储结构 | 15% | 数据库文件结构、每日数据合并 |
| D3: 详情页爬取 | 15% | 内容/作者/观看量/阅读量/评论量/热度 |
| D4: HTML输出质量 | 12% | 页面展示效果、结构清晰度 |
| D5: JSON输出质量 | 12% | 数据结构规范性、字段完整性 |
| D6: 文件夹分类管理 | 8% | 大数据量时的目录组织 |
| D7: 反爬合规 | 10% | 请求频率控制、UA轮换 |
| D8: 数据新鲜度 | 8% | 数据更新及时性 |
评分标准
D1: 多榜爬取完整性 (20分)
| 分数 | 标准 |
|---|---|
| 18-20 | 支持全部5个榜单(我的热搜/热搜榜/文娱榜/生活榜/社会榜) |
| 10-17 | 支持3-4个榜单 |
| 0-9 | 仅支持1-2个榜单或不支持 |
D2: 数据合并与存储结构 (15分)
| 分数 | 标准 |
|---|---|
| 13-15 | 每日数据合并为一个数据库,包含所有List和热搜项URL |
| 7-12 | 基本数据合并,结构基本完整 |
| 0-6 | 无数据合并或结构混乱 |
D3: 详情页爬取 (15分)
| 分数 | 标准 |
|---|---|
| 13-15 | 完整获取内容+作者+观看量+阅读量+评论数+热度 |
| 7-12 | 获取部分关键字段 |
| 0-6 | 缺少详情页爬取能力 |
D4: HTML输出质量 (12分)
| 分数 | 标准 |
|---|---|
| 10-12 | HTML展示美观、结构清晰、交互良好 |
| 5-9 | 基本可用,格式规范 |
| 0-4 | 格式混乱,无法正常使用 |
D5: JSON输出质量 (12分)
| 分数 | 标准 |
|---|---|
| 10-12 | JSON结构规范,字段完整,易于解析 |
| 5-9 | 基本可用 |
| 0-4 | 格式错误或字段缺失 |
D6: 文件夹分类管理 (8分)
| 分数 | 标准 |
|---|---|
| 7-8 | 数据量大时合理分目录,结构清晰 |
| 3-6 | 基本目录组织 |
| 0-2 | 无分类,文件混乱 |
D7: 反爬合规 (10分)
| 分数 | 标准 |
|---|---|
| 8-10 | 有请求频率控制、UA轮换、错误处理 |
| 4-7 | 有基本合规措施 |
| 0-3 | 无合规措施 |
D8: 数据新鲜度 (8分)
| 分数 | 标准 |
|---|---|
| 7-8 | 数据实时更新,能反映最新热搜 |
| 3-6 | 更新有一定延迟 |
| 0-2 | 数据过时 |
合格标准
- 总分 ≥ 70 进入 good_testdata
- 总分 进入 bad_testdata
行业基准 (Industry Baseline)
标注结果汇总
| 样本 | 分数 | D1多榜完整性 | D2数据合并 | D3详情页爬取 | D4 HTML输出 | D5 JSON输出 | D6文件夹管理 | D7反爬合规 | D8数据新鲜度 | 结果 |
|---|---|---|---|---|---|---|---|---|---|---|
| elite_01_hotsearch_api.json | 55 | 16 | 6 | 6 | 4 | 8 | 3 | 6 | 6 | bad |
| elite_02_topic_detail_api.json | 58 | 14 | 8 | 8 | 4 | 8 | 4 | 6 | 6 | bad |
| elite_03_weibo_image_cdn.json | 45 | 10 | 4 | 4 | 4 | 8 | 3 | 6 | 6 | bad |
| elite_04_hotnews_briefing_api.json | 78 | 12 | 10 | 12 | 8 | 10 | 4 | 8 | 8 | good |
统计
| 指标 | 值 |
|---|---|
| 样本总数 | 4 |
| Good 数量 | 1 |
| Bad 数量 | 3 |
| 平均分 | 59 |
| 最高分 | 78 |
| 最低分 | 45 |
| 行业基准 | 85 |
版本历史
| 版本 | 日期 | 说明 |
|---|---|---|
| v2 | 2026-03-29 | 微博热搜多榜爬取评分标准 |
| v1 | 2026-03-28 | 热点新闻抓取+简报生成评分标准 |
创建时间: 2026-03-29