fake-useragent,python爬虫伪装请求头

在编写爬虫进行网页数据的时候,大多数情况下,需要在请求是增加请求头,下面介绍一个python下非常好用的伪装请求头的库:fake-useragent,具体使用说明如下:

安装fake-useragent库

pip install fake-useragent

获取各浏览器的fake-useragent

from fake_useragent import UserAgent

ua = UserAgent()

#ie浏览器user agent

print(ua.ie)

#opera浏览器

print(ua.opera)

#chrome浏览器

print(ua.chrome)

#firefox浏览器

print(ua.firefox)

#safri浏览器

print(ua.safari)

#最常用的方式#写爬虫最实用的是可以随意变换headers,一定要有随机性。支持随机生成请求头print(ua.random)

print(ua.random)

print(ua.random)


示例代码

from fake_useragent 

import UserAgentimport requestsua=UserAgent()

#请求的网址

url="http://www.baidu.com"

#请求头

headers={"User-Agent":ua.random}

#请求网址

response=requests.get(url=url,headers=headers)

#响应体内容

print(response.text)

#响应状态信息

print(response.status_code)

#响应头信息

print(response.headers)

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 135,838评论 19 139
  • http header 消息通常被分为4个部分:general header即头部, request header...
    徐薇薇阅读 32,215评论 0 5
  • 1 前言 作为一名合格的数据分析师,其完整的技术知识体系必须贯穿数据获取、数据存储、数据提取、数据分析、数据挖掘、...
    whenif阅读 18,210评论 45 523
  • 第一天,对小妹不舍。 第二天,孩子和家长开始分头行动。 下午我们开始和孩子胜利会师,并且进行盲人游戏,和哑巴 游戏...
    王兰_hope阅读 1,783评论 0 1
  • 大概我要休息半个小时 一下午的高度集中加用眼过度 放学的时候总有一种眼角膜脱落的感觉 回去的路上眼睛因为干涩不停的...
    只是路过一下阅读 1,382评论 0 0

友情链接更多精彩内容