toplist.md 3.98 KB

微博爬取标杆案例排行 (Toplist)

一、开源项目排行榜

1. WeiboSpider (★★★★★)

  • 仓库: https://github.com/nghuyong/WeiboSpider
  • Stars: 3.5k+
  • 语言: Python
  • 特点:
    • 分布式架构,支持多节点
    • 支持登录态保存
    • 支持增量爬取
    • 完善的数据清洗模块
  • 推荐理由: 最成熟的开源方案,社区活跃

2. weibo-crawler (★★★★☆)

3. WeiboSuperSpider (★★★☆☆)


二、API接口排行榜

1. 移动端API (★★★★★)

  • 端点: https://m.weibo.cn/api/index/list?type=hot
  • 优点: 稳定、反爬弱、返回JSON
  • 缺点: 数据量有限
  • 推荐指数: ⭐⭐⭐⭐⭐

2. PC端热搜API (★★★★☆)

  • 端点: https://weibo.com/ajax/side/hotSearch
  • 优点: 数据全面、实时
  • 缺点: 需要Cookie
  • 推荐指数: ⭐⭐⭐⭐

3. 用户微博API (★★★☆☆)

  • 端点: https://weibo.com/ajax/statuses/mymblog?uid={uid}
  • 优点: 可获取指定用户微博
  • 缺点: 需要登录
  • 推荐指数: ⭐⭐⭐

三、学习资源排行榜

1. 官方文档

2. 技术博客

  • 微博数据爬取实战系列
  • 反爬虫技术研究

3. 社区论坛

  • GitHub Issues
  • 掘金/知乎相关话题

四、工具链推荐

用途 工具 说明
请求库 requests/axios HTTP请求
解析库 parsel/xpath HTML解析
代理池 proxy_pool 代理管理
存储 MySQL/MongoDB 数据持久化
爬虫框架 Scrapy/Puppeteer 框架选择

五、数据质量评估

数据源 可靠性 实时性 完整度
热搜榜 ★★★★★ ★★★★★ ★★★★☆
热门推荐 ★★★☆☆ ★★★★☆ ★★★☆☆
用户微博 ★★★★☆ ★★★☆☆ ★★★★★
超话 ★★★☆☆ ★★★☆☆ ★★★★☆

更新时间: 2026-03-28

六、参考资源

技术文档

开源项目

学习资源

  • GitHub Issues 讨论
  • 掘金: 微博爬取实战系列
  • 知乎: 微博数据爬取与反爬
  • CSDN: Python微博爬虫教程

工具链

  • requests: Python HTTP库
  • axios: Node.js HTTP库
  • parsel: Python解析库
  • Puppeteer: 浏览器自动化
  • proxy_pool: 代理池管理

七、独立信源列表 (≥10)

  1. https://github.com/nghuyong/WeiboSpider - WeiboSpider项目
  2. https://github.com/dataabc/weibo-crawler - weibo-crawler项目
  3. https://github.com/lesx1/weibo-crawler - WeiboSuperSpider
  4. https://github.com/WriteForever/WeiboSpider - WeiboSpider变体
  5. https://github.com/liujun3660105/node-weibo-api - Node.js微博API
  6. https://open.weibo.com/ - 微博开放平台
  7. https://m.weibo.cn/api/index/list?type=hot - 移动端热搜API
  8. https://weibo.com/ajax/side/hotSearch - PC端热搜API
  9. https://weibo.com/ajax/statuses/mymblog - 用户微博API
  10. https://m.weibo.cn/api/container/getIndex - 话题搜索API