在爬虫时,经常遇到中文乱码,其实在requests获取response时进行转码即可
代码:
def crawler():
baseurl="http://www.weather.com.cn/weather/101010100.shtml"
r=requests.get(url=baseurl)
r.encoding="utf-8"
res=r.text
html=etree.HTML(res)
#
data=html.xpath("//li[@class='sky skyid lv4 on'][1]//p[@class='tem']//text()")
print(data)
crawler()
=================================
['\n', '15', '/', '3℃', '\n']
此时爬取到的数据就是中文的了。