urllib的用法

什么是Urllib：

Urllib是python内置的HTTP请求库

包括以下模块

urllib.request 请求模块

urllib.error 异常处理模块

urllib.parse url解析模块

urllib.robotparser robots.txt解析模块

urlopen

关于urllib.request.urlopen参数的介绍：

urllib.request.urlopen(url, data=None, [timeout, ]*, cafile=None, capath=None, cadefault=False, context=None)

url参数的使用

先写一个简单的例子：

import urllib.request

response = urllib.request.urlopen('http://www.baidu.com')print(response.read().decode('utf-8'))

urlopen一般常用的有三个参数，它的参数如下：

urllib.requeset.urlopen(url,data,timeout)

response.read()可以获取到网页的内容，如果没有read()，将返回如下内容

data参数的使用

上述的例子是通过请求百度的get请求获得百度，下面使用urllib的post请求

这里通过http://httpbin.org/post网站演示（该网站可以作为练习使用urllib的一个站点使用，可以

模拟各种请求操作）。



import urllib.parseimport urllib.request

data = bytes(urllib.parse.urlencode({'word':'hello'}), encoding='utf8')print(data)

response = urllib.request.urlopen('http://httpbin.org/post', data=data)print(response.read())



这里就用到urllib.parse，通过bytes(urllib.parse.urlencode())可以将post数据进行转换放到urllib.request.urlopen的data参数中。这样就完成了一次post请求。

所以如果我们添加data参数的时候就是以post请求方式请求，如果没有data参数就是get请求方式

timeout参数的使用：

在某些网络情况不好或者服务器端异常的情况会出现请求慢的情况，或者请求异常，所以这个时候我们需要给

请求设置一个超时时间，而不是让程序一直在等待结果。例子如下：

import urllib.request

response = urllib.request.urlopen('http://httpbin.org/get', timeout=1)print(response.read())

运行之后我们看到可以正常的返回结果，接着我们将timeout时间设置为0.1

运行程序会提示如下错误

所以我们需要对异常进行抓取，代码更改为

import socketimport urllib.requestimport urllib.errortry:

    response = urllib.request.urlopen('http://httpbin.org/get', timeout=0.1)except urllib.error.URLError as e:

    if isinstance(e.reason, socket.timeout):

        print('TIME OUT')


响应：

响应类型、状态码、响应头

import urllib.request

response = urllib.request.urlopen('https://www.python.org')print(type(response))

可以看到结果为：

我们可以通过response.status、response.getheaders().response.getheader("server")，获取状态码以及头部信息

response.read()获得的是响应体的内容

当然上述的urlopen只能用于一些简单的请求，因为它无法添加一些header信息，如果后面写爬虫我们可以知道，很多情况下我们是需要添加头部信息去访问目标站的，这个时候就用到了urllib.request

request

设置Headers

有很多网站为了防止程序爬虫爬网站造成网站瘫痪，会需要携带一些headers头部信息才能访问，最长见的有user-agent参数

写一个简单的例子：

import urllib.request

request = urllib.request.Request('https://python.org')

response = urllib.request.urlopen(request)print(response.read().decode('utf-8'))

给请求添加头部信息，从而定制自己请求网站是时的头部信息



fromurllibimport request, parse

url ='http://httpbin.org/post'headers = {

    'User-Agent':'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)',

    'Host':'httpbin.org'}

dict = {

    'name':'zhaofan'}

data = bytes(parse.urlencode(dict), encoding='utf8')

req = request.Request(url=url, data=data, headers=headers, method='POST')

response = request.urlopen(req)print(response.read().decode('utf-8'))



添加请求头的第二种方式：


fromurllibimport request, parse

url ='http://httpbin.org/post'dict = {

    'name':'Germey'}

data = bytes(parse.urlencode(dict), encoding='utf8')

req = request.Request(url=url, data=data, method='POST')

req.add_header('User-Agent','Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)')

response = request.urlopen(req)print(response.read().decode('utf-8'))


这种添加方式有个好处是自己可以定义一个请求头字典，然后循环进行添加

高级用法各种handler

代理,ProxyHandler

通过rulllib.request.ProxyHandler()可以设置代理,网站它会检测某一段时间某个IP 的访问次数，如果访问次数过多，它会禁止你的访问,所以这个时候需要通过设置代理来爬取数据


import urllib.request

proxy_handler = urllib.request.ProxyHandler({

    'http':'http://127.0.0.1:9743',

    'https':'https://127.0.0.1:9743'})

opener = urllib.request.build_opener(proxy_handler)

response = opener.open('http://httpbin.org/get')print(response.read())



cookie,HTTPCookiProcessor：

cookie中保存中我们常见的登录信息，有时候爬取网站需要携带cookie信息访问,这里用到了http.cookijar，用于获取cookie以及存储cookie


import http.cookiejar, urllib.request

cookie = http.cookiejar.CookieJar()

handler = urllib.request.HTTPCookieProcessor(cookie)

opener = urllib.request.build_opener(handler)

response = opener.open('http://www.baidu.com')foritemin cookie:

    print(item.name+"="+item.value)


同时cookie可以写入到文件中保存，有两种方式http.cookiejar.MozillaCookieJar和http.cookiejar.LWPCookieJar()，当然你自己用哪种方式都可以

具体代码例子如下：

http.cookiejar.MozillaCookieJar()方式


import http.cookiejar, urllib.request

filename ="cookie.txt"cookie = http.cookiejar.MozillaCookieJar(filename)

handler = urllib.request.HTTPCookieProcessor(cookie)

opener = urllib.request.build_opener(handler)

response = opener.open('http://www.baidu.com')

cookie.save(ignore_discard=True, ignore_expires=True)


http.cookiejar.LWPCookieJar()方式：


import http.cookiejar, urllib.request

filename ='cookie.txt'cookie = http.cookiejar.LWPCookieJar(filename)

handler = urllib.request.HTTPCookieProcessor(cookie)

opener = urllib.request.build_opener(handler)

response = opener.open('http://www.baidu.com')

cookie.save(ignore_discard=True, ignore_expires=True)


同样的如果想要通过获取文件中的cookie获取的话可以通过load方式，当然用哪种方式写入的，就用哪种方式读取。


import http.cookiejar, urllib.request

cookie = http.cookiejar.LWPCookieJar()

cookie.load('cookie.txt', ignore_discard=True, ignore_expires=True)

handler = urllib.request.HTTPCookieProcessor(cookie)

opener = urllib.request.build_opener(handler)

response = opener.open('http://www.baidu.com')print(response.read().decode('utf-8'))


异常处理

在很多时候我们通过程序访问页面的时候，有的页面可能会出现错误，类似404，500等错误

这个时候就需要我们捕捉异常，下面先写一个简单的例子


fromurllibimport request,errortry:

    response = request.urlopen("http://pythonsite.com/1111.html")except error.URLError as e:

    print(e.reason)


上述代码访问的是一个不存在的页面，通过捕捉异常，我们可以打印异常错误

这里我们需要知道的是在urllb异常这里有两个个异常错误：

URLError,HTTPError，HTTPError是URLError的子类

URLError里只有一个属性：reason,即抓异常的时候只能打印错误信息，类似上面的例子

HTTPError里有三个属性：code,reason,headers，即抓异常的时候可以获得code,reson，headers三个信息，例子如下：


fromurllibimport request,errortry:

    response = request.urlopen("http://pythonsite.com/1111.html")except error.HTTPError as e:

    print(e.reason)

    print(e.code)

    print(e.headers)except error.URLError as e:

    print(e.reason)else:

    print("reqeust successfully")


同时，e.reason其实也可以在做深入的判断，例子如下：


import socketfromurllibimport error,requesttry:

    response = request.urlopen("http://www.pythonsite.com/",timeout=0.001)except error.URLError as e:

    print(type(e.reason))

    if isinstance(e.reason,socket.timeout):

        print("time out")



URL解析

urlparse

The URL parsing functions focus on splitting a URL string into its components, or on combining URL components into a URL string.

urllib.parse.urlparse(urlstring, scheme='', allow_fragments=True)

功能一：

fromurllib.parseimport urlparse

result = urlparse("http://www.baidu.com/index.html;user?id=5#comment")print(result)

结果为：

这里就是可以对你传入的url地址进行拆分

同时我们是可以指定协议类型：

result = urlparse("www.baidu.com/index.html;user?id=5#comment",scheme="https")

这样拆分的时候协议类型部分就会是你指定的部分，当然如果你的url里面已经带了协议，你再通过scheme指定的协议就不会生效

urlunpars

其实功能和urlparse的功能相反，它是用于拼接，例子如下：

fromurllib.parseimport urlunparse

data = ['http','www.baidu.com','index.html','user','a=123','commit']print(urlunparse(data))

结果如下

urljoin

这个的功能其实是做拼接的，例子如下：


fromurllib.parseimport urljoinprint(urljoin('http://www.baidu.com','FAQ.html'))print(urljoin('http://www.baidu.com','https://pythonsite.com/FAQ.html'))print(urljoin('http://www.baidu.com/about.html','https://pythonsite.com/FAQ.html'))print(urljoin('http://www.baidu.com/about.html','https://pythonsite.com/FAQ.html?question=2'))print(urljoin('http://www.baidu.com?wd=abc','https://pythonsite.com/index.php'))print(urljoin('http://www.baidu.com','?category=2#comment'))print(urljoin('www.baidu.com','?category=2#comment'))print(urljoin('www.baidu.com#comment','?category=2'))


结果为：

从拼接的结果我们可以看出，拼接的时候后面的优先级高于前面的url

urlencode

这个方法可以将字典转换为url参数，例子如下


fromurllib.parseimport urlencode

params = {

    "name":"zhaofan",

    "age":23,

}

base_url ="http://www.baidu.com?"url = base_url+urlencode(params)print(url)


结果为：

©著作权归作者所有,转载或内容合作请联系作者
  • 人面猴
    序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
    沈念sama阅读 204,293评论 6赞 478
  • 死咒
    序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
    沈念sama阅读 85,604评论 2赞 381
  • 救了他两次的神仙让他今天三更去死
    文/潘晓璐 我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
    开封第一讲书人阅读 150,958评论 0赞 337
  • 道士缉凶录：失踪的卖姜人
    文/不坏的土叔 我叫张陵，是天一观的道长。 经常有香客问我，道长，这世上最难降的妖魔是什么？ 我笑而不...
    开封第一讲书人阅读 54,729评论 1赞 277
  • 港岛之恋（遗憾婚礼）
    正文 为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
    茶点故事阅读 63,719评论 5赞 366
  • 恶毒庶女顶嫁案：这布局不是一般人想出来的
    文/花漫 我一把揭开白布。 她就那样静静地躺着，像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上，一...
    开封第一讲书人阅读 48,630评论 1赞 281
  • 城市分裂传说
    那天，我揣着相机与录音，去河边找鬼。 笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。 我是一名探鬼主播，决...
    沈念sama阅读 38,000评论 3赞 397
  • 双鸳鸯连环套：你想象不到人心有多黑
    文/苍兰香墨 我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
    开封第一讲书人阅读 36,665评论 0赞 258
  • 万荣杀人案实录
    序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
    沈念sama阅读 40,909评论 1赞 299
  • 护林员之死
    正文 独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,646评论 2赞 321
  • 白月光启示录
    正文 我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,726评论 1赞 330
  • 活死人
    序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
    沈念sama阅读 33,400评论 4赞 321
  • 日本核电站爆炸内幕
    正文 年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
    茶点故事阅读 38,986评论 3赞 307
  • 男人毒药：我在死后第九天来索命
    文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,959评论 0赞 19
  • 一桩弑父案，背后竟有这般阴谋
    文/苍兰香墨 我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,197评论 1赞 260
  • 情欲美人皮
    我被黑心中介骗来泰国打工， 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。 一个月前我还...
    沈念sama阅读 44,996评论 2赞 349
  • 代替公主和亲
    正文 我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
    茶点故事阅读 42,481评论 2赞 342

推荐阅读更多精彩内容