从零开始第一个python爬虫

前提条件:安装好pycharm,配置好相关环境。
本文是观看路飞学城爬虫视频之后总结所作:视频地址

对于爬虫来说需要的最重要,也是最基础的一个模块就是requests模块,我们也从requesst模块来逐步了解爬虫到底是个什么东西

what is requests?

requests模块是python中原生的基于网络请求的模块,其主要作用是用来模拟浏览器发起请求。功能强大,用法简洁高效。在爬虫领域中占据着半壁江山的地位。

通俗来说requests的作用就是在python中模拟浏览器!

How to use it?

  • 安装
    在terminal或cmd中进入到项目环境,输入命令:
pip install requests
  • 使用流程
  1. 导入requests模块
  2. 指定访问的url
  3. 通过requests访问
  4. 获取访问的数据
  5. 把数据存储起来
  • 第一个例子
  1. 导包
import requests
  1. 指定url
url = 'https://www.sogou.com/'
  1. 通过requests.get访问url地址,get是一种请求方法,可以获得浏览器相关数据。将获得的数据赋值给response
response = requests.get(url=url)

4.获取响应数据:通过调用响应对象(response)的text属性,返回响应对象中存储的字符串形式的响应数据(页面源码数据

page_text = response.text
  1. 持久化存储,使用with结构,存储成同级目录下sogou.html文件。
with open('./sogou.html','w',encoding='utf-8') as fp:
    fp.write(page_text)

完整源码:

#导包
import requests
#step_1:指定url
url = 'https://www.sogou.com/'
#step_2:发起请求:使用get方法发起get请求,该方法会返回一个响应对象。参数url表示请求对应的url
response = requests.get(url=url)
#step_3:获取响应数据:通过调用响应对象的text属性,返回响应对象中存储的字符串形式的响应数据(页面源码数据)
page_text = response.text
#step_4:持久化存储
with open('./sogou.html','w',encoding='utf-8') as fp:
    fp.write(page_text)
print('爬取数据完毕!!!')
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容