视频下载器你知道吧?那你听说过文章下载器吗?P…
2018-09-18 06:45:42来源:博客园 阅读 ()
进群:548377875 即可获取数十套PDF哦!
工具需求:
输入:给定公众号ID,和用户需要获取的公众号文章目录页码数(小于已发布最大收录页数)
( 输出Ⅰ:每个公众号历史文章信息csv文件(链接+标题)
输出Ⅱ: wkhtmltopdf和pdfkit将html转换成PDF文件或者图片文件(初稿)
现有方案
之前在网上也搜索了些爬取微信公众号的资料,大概有如下几种
selenium爬取流程
- 安装python selenium自动模块,通过selenium中的webdriver驱动浏览器获取Cookie登录微信公众号后台;
- 使用webdriver功能需要安装对应浏览器的驱动插件
- 注意:谷歌浏览器版本和chromedriver需要对应,否则会导致启动时报错。
- 微信公众号登陆地址:https://mp.weixin.qq.com/
- 微信公众号文章接口地址可以在微信公众号后台中新建图文消息,超链接功能中获取:
- 搜索公众号名称
- 获取要爬取的公众号的fakeid
- 选定要爬取的公众号,获取文章接口地址
- 文章列表翻页及内容获取
AnyProxy代理批量采集
Fiddler设置代理和抓包
通过对多个账号进行抓包分析,可以确定:
- _biz:这个14位的字符串是每个公众号的“id”,搜狗的微信平台可以获得
- uin:与访问者有关,微信号id
- key:和所访问的公众号有关
步骤:
1,写按键精灵脚本,在手机上自动点击公号文章列表页,也就是“查看历史消息”;
2,使用fiddler代理劫持手机端的访问,将网址转发到本地用php写的网页;
3,在php网页上将接收到的网址备份到数据库;
4,用python从数据库取出网址,然后进行正常的爬取。
可能存在的问题:
如果只是想爬取文章内容,似乎并没有访问频率限制,但如果想抓取阅读数、点赞数,超过一定频率后,返回就会变为空值。
付费平台
例如清博 新榜,如果只是想看数据的话,直接看每天的榜单就可以了,还不用花钱,如果需要接入自己的系统的话,他们也提供api接口
3项目步骤
3.1基本原理
目标爬取网站收录了微信平台大部分的优质微信公众号文章,会定期更新,经测试发现对爬虫较为友好。
1、网站页面布局排版规律,不同公众号通过http://chuansong.me/account/almosthuman2014链接中的account区分
2、一个公众号合集下的文章翻页也有规律:id号每翻一页+12
所以流程思路就是
- 获取预查询微信公众号ID(不是直接显示的名称,而是信息名片里的ID号,一般由数字字母组成)
- 请求html页面,判断是否已经收录改公众号
- 如果没有收录,则页面显示结果为:404该页面不存在,所以直接使用正则表达式来匹配该提示信息即可
- 正则匹配,找到目标公众号最大收录文章页数
- 解析请求页面,提取文章链接和标题文字
- 保存信息提取的结果
- 调用pdfkit和wkhtmltopdf转换网页
3.5自动跳转页面
以下代码通过循环递增赋值,改变url中的页码参数
3.8生成的PDF结果
4结果展示
5 完整代码
由于考虑到转pdf的稳定性,我在发布版的代码中没有加转PDF的函数。预留了一个粗糙的py源文件,如果感兴趣,读者可以在此基础上自行调整修改。
源码就单独私信,我一个个给你们发!
标签:
版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有
- 1.关于Python,你可能不知道的 2019-07-24
- Python爬虫-字体反爬-猫眼国内票房榜 2019-05-17
- POST一下就知道:人生苦短,我用Python! 2019-04-11
- 作为python新手你应该知道的编程技巧! 2019-03-13
- 用Python复制文件的九种方法!你知道哪几种? 2019-03-13
IDC资讯: 主机资讯 注册资讯 托管资讯 vps资讯 网站建设
网站运营: 建站经验 策划盈利 搜索优化 网站推广 免费资源
网络编程: Asp.Net编程 Asp编程 Php编程 Xml编程 Access Mssql Mysql 其它
服务器技术: Web服务器 Ftp服务器 Mail服务器 Dns服务器 安全防护
软件技巧: 其它软件 Word Excel Powerpoint Ghost Vista QQ空间 QQ FlashGet 迅雷
网页制作: FrontPages Dreamweaver Javascript css photoshop fireworks Flash