toplist.md
3.98 KB
微博爬取标杆案例排行 (Toplist)
一、开源项目排行榜
1. WeiboSpider (★★★★★)
- 仓库: https://github.com/nghuyong/WeiboSpider
- Stars: 3.5k+
- 语言: Python
- 特点:
- 分布式架构,支持多节点
- 支持登录态保存
- 支持增量爬取
- 完善的数据清洗模块
- 推荐理由: 最成熟的开源方案,社区活跃
2. weibo-crawler (★★★★☆)
- 仓库: https://github.com/dataabc/weibo-crawler
- Stars: 2k+
- 语言: Python
- 特点:
- 代码简洁易懂
- 支持自定义爬取规则
- 支持断点续传
- 推荐理由: 学习入门首选
3. WeiboSuperSpider (★★★☆☆)
- 仓库: https://github.com/lesx1/weibo-crawler
- Stars: 500+
- 语言: Node.js
- 特点:
- 轻量级实现
- 易于集成
- 推荐理由: 适合轻量场景
二、API接口排行榜
1. 移动端API (★★★★★)
- 端点:
https://m.weibo.cn/api/index/list?type=hot - 优点: 稳定、反爬弱、返回JSON
- 缺点: 数据量有限
- 推荐指数: ⭐⭐⭐⭐⭐
2. PC端热搜API (★★★★☆)
- 端点:
https://weibo.com/ajax/side/hotSearch - 优点: 数据全面、实时
- 缺点: 需要Cookie
- 推荐指数: ⭐⭐⭐⭐
3. 用户微博API (★★★☆☆)
- 端点:
https://weibo.com/ajax/statuses/mymblog?uid={uid} - 优点: 可获取指定用户微博
- 缺点: 需要登录
- 推荐指数: ⭐⭐⭐
三、学习资源排行榜
1. 官方文档
- 微博开放平台: https://open.weibo.com/
- 移动端API文档: 内部参考
2. 技术博客
- 微博数据爬取实战系列
- 反爬虫技术研究
3. 社区论坛
- GitHub Issues
- 掘金/知乎相关话题
四、工具链推荐
| 用途 | 工具 | 说明 |
|---|---|---|
| 请求库 | requests/axios | HTTP请求 |
| 解析库 | parsel/xpath | HTML解析 |
| 代理池 | proxy_pool | 代理管理 |
| 存储 | MySQL/MongoDB | 数据持久化 |
| 爬虫框架 | Scrapy/Puppeteer | 框架选择 |
五、数据质量评估
| 数据源 | 可靠性 | 实时性 | 完整度 |
|---|---|---|---|
| 热搜榜 | ★★★★★ | ★★★★★ | ★★★★☆ |
| 热门推荐 | ★★★☆☆ | ★★★★☆ | ★★★☆☆ |
| 用户微博 | ★★★★☆ | ★★★☆☆ | ★★★★★ |
| 超话 | ★★★☆☆ | ★★★☆☆ | ★★★★☆ |
更新时间: 2026-03-28
六、参考资源
技术文档
- 微博开放平台: https://open.weibo.com/
- 移动端API文档: 内部参考
- 新浪微博开发文档: https://github.com/nghuyong/WeiboSpider/wiki
开源项目
- WeiboSpider: https://github.com/nghuyong/WeiboSpider (3.5k+ stars)
- weibo-crawler: https://github.com/dataabc/weibo-crawler (2k+ stars)
- WeiboSuperSpider: https://github.com/lesx1/weibo-crawler (500+ stars)
- weibo-spider: https://github.com/WriteForever/WeiboSpider
- node-weibo-api: https://github.com/liujun3660105/node-weibo-api
学习资源
- GitHub Issues 讨论
- 掘金: 微博爬取实战系列
- 知乎: 微博数据爬取与反爬
- CSDN: Python微博爬虫教程
工具链
- requests: Python HTTP库
- axios: Node.js HTTP库
- parsel: Python解析库
- Puppeteer: 浏览器自动化
- proxy_pool: 代理池管理
七、独立信源列表 (≥10)
- https://github.com/nghuyong/WeiboSpider - WeiboSpider项目
- https://github.com/dataabc/weibo-crawler - weibo-crawler项目
- https://github.com/lesx1/weibo-crawler - WeiboSuperSpider
- https://github.com/WriteForever/WeiboSpider - WeiboSpider变体
- https://github.com/liujun3660105/node-weibo-api - Node.js微博API
- https://open.weibo.com/ - 微博开放平台
- https://m.weibo.cn/api/index/list?type=hot - 移动端热搜API
- https://weibo.com/ajax/side/hotSearch - PC端热搜API
- https://weibo.com/ajax/statuses/mymblog - 用户微博API
- https://m.weibo.cn/api/container/getIndex - 话题搜索API