import urllib.request
import re
keyname="西裤"
key=urllib.request.quote(keyname)
import random
uapools=[
"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36",
"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36 QIHU 360SE",
"Opera/12.02 (Android 4.1; Linux; Opera Mobi/ADR-1111101157; U; en-US) Presto/2.9.201 Version/12.02",
]
def ua(uapools):
thisua=random.choice(uapools)
print(thisua)
headers=("User-Agent",thisua)
opener=urllib.request.build_opener()
opener.addheaders=[headers]
urllib.request.install_opener(opener)
for i in range(1,101):
url="https://s.taobao.com/search?q=" + key + "&s=" + str((i-1)*44)
ua(uapools)
data=urllib.request.urlopen(url).read().decode("utf-8", "ignore")
pat='"pic_url":"//(.*?)"'
imglist=re.compile(pat).findall(data)
for j in range(0,len(imglist)):
try:
thisimg=imglist[j]
thisimgurl="http://"+thisimg
localfile="D:/tmp/a/" + str(i) + str(j) + ".jpg"
urllib.request.urlretrieve(thisimgurl, filename=localfile)
except Exception as err:
print(err)
爬取淘宝商品图片(用户代理池)
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
相关阅读更多精彩内容
- 案例目的:爬取58同城宠物狗信息难点 - 自动代理:爬取58信息前,自动设置 http://www.xicidai...
- 瑜伽体式之一,是常见的瑜伽体式。这个体式增强腿部肌肉,去除腿部和臀部僵硬,纠正腿部畸形,使腿部能均匀地发展。同时还...