python爬虫从小白到高手 Day2 动态页面的爬取

2018-06-23 13:17:21来源:未知 阅读 ()

新老客户大回馈,云服务器低至5折

今天我们说说动态页面的抓取,动态页面的概念不是说网页上的内容是活动的,而是刷新的内容由Ajax加载,页面的URL没有变化,具体概念问度娘。
就以男人都喜欢的美女街拍为例,对象为今日头条。
chrome打开今日头条 ->搜索
https://www.toutiao.com/search/?keyword=街拍
开发者工具->network选项卡
图2-1
很多条目,各种请求,但Ajax其实有其特殊的请求类型,它叫作xhr。在图6-3中,我们可以发现一个名称以getIndex开头的请求,其Type为xhr,这就是一个Ajax请求。用鼠标点击这个请求,可以查看这个请求的详细信息。
图2-2
选中这个xhr请求后,我们可以看到Request Headers中X-Requested-With:XMLHttpRequest,这就标记了此请求是Ajax请求。
点击一下Preview,即可看到响应的内容,它是JSON格式的。这里Chrome为我们自动做了解析,点击箭头即可展开和收起相应内容,初步分析这里返回的是页面上显示出来的前二十条信息。
图2-3
切换回第一个请求,我们发现Response中的信息是这样的
图2-4
这就是原始链接 https://www.toutiao.com/search/?keyword=街拍 所返回的内容,只有六十多行代码,执行了一些JavaScript,所以我们最终看到的页面不是由初始页面返回的,而是后来执行的JavaScript向服务器发送了Ajax请求,收到返回的真实数据后才显示出来的。这就是动态页面渲染的流程。
明白了整个流程后,我们要做的最重要的事就是分析返回数据的内容,用python模拟Ajax请求,拿到我们所希望抓取的数据。
 
 
get_page'offset',
'format''json''keyword''街拍''autoload''true''count''20''cur_tab''1''from''search_tab'}
'https://www.toutiao.com/search_content/?'
try, =params)
if 200return except return None
 
 
下滑几次后,发现只有offset参数变化,所以,构造url,requests获得数据
这里拿到的数据是json格式的
 
 
download_imageif 'data'for in 'data'if and in title 'title''article_url'
if '''
 
取出数据中的data段,发现只有前四张图片的地址可以取到,剩下的图片必须进入文章页才能获得,我们取出文章页的url,requests获得文章页数据
 
get_real_image_path'user-agent''Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36', =headers)
, )
'title'0'gallery: JSON.parse\("(.*?)"\),'re.S)
,
if 1''''
if and in 'sub_images''url'for in for in
return 'title',
'url' ,
'image_urls'
这里需要加入UA头,否则返回不了数据,拿到数据后,发现图片地址位于
图2-5
 
这里用正则表达式
匹配符合条件的,gallery: JSON.parse("")中的数据\(\)这里在正则中表达的是转义字符,有兴趣的可以学习一下正则表达式,这里就不赘述了
 
我们从sub_images中拿到了所有图片地址,下载过程就很简单了
requests图片地址,获得的response中的content就是图片的数据
 
download_real_imageprint'downloading---'url)
tryif 200return None
RequestException:
print'request image fail---'url)
return None
 
save_image'{0}/{1}', )
if not
'{0}/{1}.{2}', , )
if not with (file_path'wb'as
我们还可以把图片的标题和地址写入数据库
 
save_to_mongoif print'save success'result)
return True
 
完整代码:
 jrtt.py
 
import requests
import re
import json
from hashlib import md5
import os
from bs4 import BeautifulSoup
import pymongo
from config import *
import time



client = pymongo.MongoClient(MONGO_URL, connect=False)
db = client[MONGO_DB]

def get_page(offset):
    params = {
        'offset': offset,
        'format': 'json',
        'keyword': '街拍',
        'autoload': 'true',
        'count': '20',
        'cur_tab': '1',
        'from': 'search_tab',
    }
    url = 'https://www.toutiao.com/search_content/?'
    try:
        response = requests.get(url, params=params)
        if response.status_code == 200:
            return response.json()
    except requests.ConnectionError:
        return None

def save_to_mongo(result):
    if db[MONGO_TABLE].insert(result):
        print('save success', result)
        return True
    return False

def download_real_image(url):
    print('downloading---', url)
    try:
        response = requests.get(url)
        if response.status_code == 200:
            save_image(response.content)
        return None
    except RequestException:
        print('request image fail---', url)
        return None


def save_image(content):
    files_path = '{0}/{1}'.format(os.getcwd(), 'tupian')
    if not os.path.exists(files_path):
        os.mkdir(files_path)

    file_path = '{0}/{1}.{2}'.format(files_path, md5(content).hexdigest(), 'jpg')
    if not os.path.exists(file_path):
        with open(file_path, 'wb') as f:
            f.write(content)


def get_real_image_path(article_url):
    headers = {'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'}
    response = requests.get(article_url, headers=headers)
    soup = BeautifulSoup(response.text, "lxml")
    title = soup.select('title')[0].get_text()
    image_pattern = re.compile('gallery: JSON.parse\("(.*?)"\),', re.S)
    result = re.search(image_pattern, response.text)


    if result:
        result = result.group(1).replace('\\', '')
        data = json.loads(result)

        if data and 'sub_images' in data.keys():
            sub_images = data.get('sub_images')
            images_urls = [item.get('url') for item in sub_images]
            for image_url in images_urls: download_real_image(image_url)

            return {
                'title': title,
                'url' : article_url,
                'image_urls': images_urls
            }



def download_image(jsonData):
    if jsonData.get('data'):
        for item in jsonData.get('data'):
            if item and 'article_url' in item.keys():
                title = item.get('title')
                article_url = item.get('article_url')
                result = get_real_image_path(article_url)

                if result: save_to_mongo(result)
            '''
            另外一种数据格式cell,cell type太多,主要分析上面一种
            else:
                #original_page_url
                data = item.get('display')
                #print(display)
                #data = json.loads(display)
                #print(data)
                if data and 'results' in data.keys():
                    results = data.get('results')
                    original_page_urls = [item.get('original_page_url') for item in results]
                # .get('results').get('original_page_url')
                #title = item.get('display').get('title')
                #print(title)
                #print(original_page_urls)'''


def main():

    STARTPAGE = 1
    ENDPAGE = 2

    for i in range(STARTPAGE, ENDPAGE):
        time.sleep(1)
        offset = i * 20
        jsonData = get_page(offset)
        download_image(jsonData)

if __name__ == "__main__":
    main()

config.py

MONGO_URL = 'localhost'

MONGO_DB = 'jiepai'

MONGO_TABLE = 'jiepai'

GROUP_START = 0

GROUP_END = 20

KEYWORD = '街拍'

 

 

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有

上一篇:day_1

下一篇:python3开发进阶-Django框架中的ORM的常用操作的补充(F查询和Q