python爬虫获取百度图片(没有精华,只为娱乐)
2018-09-01 05:53:13来源:博客园 阅读 ()
python3.7,爬虫技术,获取百度图片资源,msg为查询内容,cnt为查询的页数,大家快点来爬起来。
注:现在只能爬取到百度的小图片,以后有大图片的方法,我会陆续发贴。
#!/usr/bin/env python
# -*- coding:utf-8 -*-
#爬虫,百度图片
import urllib.request
import urllib
import re
import sys
import codecs
from urllib.parse import quote
#print(sys.stdout.encoding)
#sys.stdout = codecs.getwriter("utf-8")(sys.stdout.detach())
#获取网站首页全部内容
msg = urllib.parse.quote("汽车") #解决中文不识别问题
url = "https://image.baidu.com/search/index?tn=baiduimage&ie=utf-8&word="+msg
cnt = 30 #页数
x = 0
for i in range(1,cnt,1):
url="https://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=result&fr=&sf=1&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&pn='+i+'&word="+msg
user_agent = 'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'
req = urllib.request.Request(url, headers={'User-Agent': user_agent})
response = urllib.request.urlopen(req)
content = response.read().decode('utf-8')
#print(content)
#筛选
reg = '(https://ss0.bdstatic.com/.*?.jpg)'
imgre = re.compile(reg)
imglist = re.findall(imgre,content)
print(imglist)
temp = ''
for imgurl in imglist:
if temp != imgurl:
print(imgurl)
urllib.request.urlretrieve(imgurl,r'D:\pythonImage\%s.jpg' % x)
x+=1
temp = imgurl
结果:
标签:
版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有
上一篇:基本对象类型(一)
下一篇:面向对象以及三大特性
- python3基础之“术语表(2)” 2019-08-13
- python3 之 字符串编码小结(Unicode、utf-8、gbk、gb2312等 2019-08-13
- Python3安装impala 2019-08-13
- 小白如何入门 Python 爬虫? 2019-08-13
- python_字符串方法 2019-08-13
IDC资讯: 主机资讯 注册资讯 托管资讯 vps资讯 网站建设
网站运营: 建站经验 策划盈利 搜索优化 网站推广 免费资源
网络编程: Asp.Net编程 Asp编程 Php编程 Xml编程 Access Mssql Mysql 其它
服务器技术: Web服务器 Ftp服务器 Mail服务器 Dns服务器 安全防护
软件技巧: 其它软件 Word Excel Powerpoint Ghost Vista QQ空间 QQ FlashGet 迅雷
网页制作: FrontPages Dreamweaver Javascript css photoshop fireworks Flash