python scrapy爬取微信公众号文章的爬虫

来源:互联网 发布:mysql against ngram 编辑:程序博客网 时间:2024/05/22 02:26

  • 环境:python 2.7 64bit,win10 64bit,SqlServer 2008
  • 微信公众号文章爬取器
  • 从搜狗微信公众号入口爬取公众号新闻列表
  • 支持爬取新闻标题、Icon、作者、时间等
  • 支持文章内容图片下载替换
  • 支持去掉含有二维码的图片
  • 支持去掉带有超链接的html 标签
  • 支持保存数据到数据库sql server
  • 二维码识别采用zbar,支持用python zbar插件和用zbar的windows exe两种方式解析二维码
  • 微信文章过于频繁,搜狗和微信会反爬虫,提示输入验证码,自动识别和输入验证码采用 若快打码(收费)
完整源码地址:https://github.com/beng0305/WechatSpider

原创粉丝点击