前提条件:安装好pycharm,配置好相关环境。
本文是观看路飞学城爬虫视频之后总结所作:视频地址
对于爬虫来说需要的最重要,也是最基础的一个模块就是requests模块,我们也从requesst模块来逐步了解爬虫到底是个什么东西
what is requests?
requests模块是python中原生的基于网络请求的模块,其主要作用是用来模拟浏览器发起请求。功能强大,用法简洁高效。在爬虫领域中占据着半壁江山的地位。
通俗来说requests的作用就是在python中模拟浏览器!
How to use it?
-
安装
在terminal或cmd中进入到项目环境,输入命令:
pip install requests
- 使用流程
- 导入requests模块
- 指定访问的url
- 通过requests访问
- 获取访问的数据
- 把数据存储起来
- 第一个例子
- 导包
import requests
- 指定url
url = 'https://www.sogou.com/'
- 通过requests.get访问url地址,get是一种请求方法,可以获得浏览器相关数据。将获得的数据赋值给response
response = requests.get(url=url)
4.获取响应数据:通过调用响应对象(response)的text属性,返回响应对象中存储的字符串形式的响应数据(页面源码数据)
page_text = response.text
- 持久化存储,使用with结构,存储成同级目录下sogou.html文件。
with open('./sogou.html','w',encoding='utf-8') as fp:
fp.write(page_text)
完整源码:
#导包
import requests
#step_1:指定url
url = 'https://www.sogou.com/'
#step_2:发起请求:使用get方法发起get请求,该方法会返回一个响应对象。参数url表示请求对应的url
response = requests.get(url=url)
#step_3:获取响应数据:通过调用响应对象的text属性,返回响应对象中存储的字符串形式的响应数据(页面源码数据)
page_text = response.text
#step_4:持久化存储
with open('./sogou.html','w',encoding='utf-8') as fp:
fp.write(page_text)
print('爬取数据完毕!!!')