Python爬虫(三)Requests库

什么是Requests

Requests是用python语言基于urllib编写的,采用的是Apache2 Licensed开源协议的HTTP库。与urllib相比,Requests更加方便,可以节约我们大量的工作,建议爬虫使用Requests库。

requests请求方式

requests提供的请求各个请求方式:

import requests
requests.get(url)
requests.post(url)
requests.put(url)
requests.delete(url)
requests.head(url)
requests.options(url)
get请求

get请求核心代码是requests.get(url),具体例子如下:

import requests
url = 'http://baidu.com'
response = requests.get(url)
print(response)

打印出来的结果是:<Response [200]>。<>表示这是一个对象,也就是我们这里获取的是一个response的对象,200表示状态码。
requests get 请求.png
post请求

post请求核心代码是requests.post(url,data={请求体的字典}),具体例子(百度翻译)如下:

import requests
url = 'https://fanyi.baidu.com'
data = {'from': 'zh',
        'to': 'en',
        'query': '人生苦短,我用python'
        }
response = requests.post(url, data=data)
print(response)

data部分的参数,取自于页面NetWork→Headers→Form Data。打印出来的结果是:<Response [200]>。
requests post 请求.png

response方法

获取网页的解码字符串

通过上述例子我们可以看到,不管是get请求还是post请求,我们得到的返回都是一个Response[200]的对象,但是我们想要得到的,应该是与网页response下一样的字符串对象,这时就需要用到response的方法了。

  • response.text。获取网页的HTML字符串,该方式往往会出现乱码,出现乱码使用response.encoding='utf-8'
import requests
url = 'http://baidu.com'
response = requests.get(url)
response.encoding = 'utf-8'
print(response.text)
  • response.content.decode()。把相应的二进制字节流转化为str类型。
import requests
url = 'http://baidu.com'
response = requests.get(url)
print(response.content.decode('gbk'))

在这里我总结了一下三种获取网页源码的三种方式,通过这三种方式,一定可以获取到网页正确解码之后的字符串:

  • response.content.decode()
  • response.content.decode('gbk')
  • response.text
获取其他属性
import requests
response = requests.get("http://www.baidu.com") 
print(type(response.requests.headers),response.requests.headers) #获取请求头
print(type(response.headers),response.headers) #获取响应头
print(type(response.cookies),response.cookies)#获取响应cookie
print(type(response.url),response.url) #获取响应url
print(type(response.requests.url),response.requests.url) #获取请求url

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 上一篇:8.Urllib库基本使用下一篇:10.正则表达式基础 requests是python实现的最简单易用的H...
    在努力中阅读 3,402评论 2 11
  • 声明:本文讲解的实战内容,均仅用于学习交流,请勿用于任何商业用途! 一、前言 强烈建议:请在电脑的陪同下,阅读本文...
    Bruce_Szh阅读 12,783评论 6 28
  • 2018-05-26 (稻盛哲学学习会)打卡第77天 姓名:王燕君 部门:分水碶 组别:利他三组 【知~学习】 一...
    王燕君分水碶阅读 3,027评论 0 0
  • ------------希望孩子姥姥赶快好起来 我拉着你的手 感觉 我就是过往的你 你就是以后的我 我拉着你的手 ...
    安可果儿阅读 369评论 4 2
  • 一、每天三目标 1、早起5:30 2、情绪管理,不抱怨,不发火,积极主动学习✅ 3、朗诵诗歌✅ 4、读书1小时 5...
    大喜丸子耶阅读 165评论 0 0