request = urllib2.Request(url)
ip_list=['119.6.136.122','114.106.77.14']
proxy_support = urllib2.ProxyHandler({'http':random.choice(ip_list)})
opener = urllib2.build_opener(proxy_support)
request.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36')
urllib2.install_opener(opener)
response = urllib2.urlopen(request,timeout=30)
downloadFileData = response.read()
python添加代理反爬虫策略
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
推荐阅读更多精彩内容
- 地址:https://github.com/Python3WebSpider/ProxyPool 为什么需要代理池...
- 今天做了个随机变换IP的功能由于今天懒得写爬虫爬取西刺网 (http://www.xicidaili.com/wt...
- 股市有宝早来财好 01 据统计,截至4月27日,证监会上市部共审核了40家上市公司的并购重组项目,通过率为92.5...
- Problem Description 统计给定的n个数中,负数、零和正数的个数。 Input 输入数据有多组,每...