Python根据url获取网页内容

2018-07-20    来源:open-open

容器云强势上线!快速搭建集群,上万Linux镜像随意使用
    #! /usr/bin/python  
    # -*- coding:utf-8 -*-  
    ''''' 
    Created on 2013-11-5 
     
    @author: Java 
    '''  
    import urllib2  
    import time  
    import socket  
    from sgmllib import SGMLParser  
      
    class WebUtil():  
        def __init__(self):  
            self.trytims = 3  
            pass  
      
    #读取Url 内容  
    #     timeout=10  
    #     socket.setdefaulttimeout(timeout)#这里对整个socket层设置超时时间。后续文件中如果再使用到socket,不必再设置  
    #     sleep_download_tine=10  
    #     time.sleep(sleep_download_tine)  
        def readUrl(self,url):  
            try:  
                request = urllib2.Request(url,headers = {'User-Agent':'Magic Browser'})  
                webpage = urllib2.urlopen(url)  
                content = webpage.read()  
                  
                return content  
                request.close()  
            except Exception,errmg:  
                print '读取失败:%s'%errmg  
                return None  
              
    if __name__=='__main__':  
        web = WebUtil()  
        content = web.readUrl('http://www.open-open.com')  
        print content  
          

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点!
本站所提供的图片等素材,版权归原作者所有,如需使用,请与原作者联系。

上一篇:python读取windows系统信息

下一篇:在python中使用elasticsearch做为搜索引擎