扒糗事百科精华的python爬虫

# -*- coding: utf-8 -*-  
    
import urllib2  
import urllib  
import re  
import thread  
import time  
 
   
#----------- 加载处理糗事百科 -----------  
class Spider_Model:  
       
    def __init__(self):  
        self.page = 1  
        self.pages = []  
        self.enable = False  
   
    # 将所有的段子都扣出来，添加到列表中并且返回列表  
    def GetPage(self,page):  
        myUrl = "http://www.qiushibaike.com/hot/page/" + page
        myUrl = myUrl + "?s=4771468"
        user_agent = 'Mozilla/5.0 (Windows NT 6.1; rv:37.0) Gecko/20100101 Firefox/37.0' 
        headers = { 'User-Agent' : user_agent }
        #print myUrl
        req = urllib2.Request(myUrl, headers = headers)
        myResponse = urllib2.urlopen(req)
        myPage = myResponse.read()  
        #encode的作用是将unicode编码转换成其他编码的字符串  
        #decode的作用是将其他编码的字符串转换成unicode编码  
        unicodePage = myPage.decode("utf-8")
   
        # 找出所有class="content"的div标记  
        #re.S是任意匹配模式，也就是.可以匹配换行符  
        myItems = re.findall('<div.*?class="content">(.*?)</div>',unicodePage,re.S)
         
        items = []  
        for item in myItems:  
            # item 中是div的内容，也就是糗事百科精华的内容
            # item 中去掉换行
            items.append(item.replace("\n","").replace("<br/>",""))  
        return items  
   
    # 用于加载新的段子  
    def LoadPage(self):  
        # 如果用户未输入quit则一直运行  
        while self.enable:  
            # 如果pages数组中的内容小于2个  
            if len(self.pages) < 2:  
                try:  
                    # 获取新的页面中的段子们  
                    myPage = self.GetPage(str(self.page))  
                    self.page += 1  
                    self.pages.append(myPage)  
                except:  
                    print '无法链接糗事百科！'  
            else:  
                time.sleep(1)  
           
    def ShowPage(self,nowPage,page):  
        for items in nowPage:  
            print u'第%d页' % page , items 
            myInput = raw_input()  
            if myInput == "quit":  
                self.enable = False  
                break  
           
    def Start(self):  
        self.enable = True  
        page = self.page  
   
        print u'正在加载中请稍候......'  
           
        # 新建一个线程在后台加载段子并存储  
        thread.start_new_thread(self.LoadPage,())  
           
        #----------- 加载处理糗事百科 -----------  
        while self.enable:  
            # 如果self的page数组中存有元素  
            if self.pages:  
                nowPage = self.pages[0]  
                del self.pages[0]  
                self.ShowPage(nowPage,page)  
                page += 1  
   
   
#----------- 程序的入口处 -----------  
print u""" 
--------------------------------------- 
   程序：糗百爬虫 
   版本：0.3 
   原作者：why
   修改者：天问-中国
   日期：2015-05-12 
   语言：Python 2.7 
   操作：输入quit退出阅读糗事百科 
   功能：按下回车依次浏览今日的糗百热点 
--------------------------------------- 
"""
   
   
print u'请按下回车浏览今日的糗百内容：'  
raw_input(' ')  
myModel = Spider_Model()  
myModel.Start()

标签：

版权申明：本站文章部分自网络，如有侵权，请联系：west999com@outlook.com
特别注意：本站所有转载文章言论不代表本站观点！
本站所提供的图片等素材，版权归原作者所有，如需使用，请与原作者联系。