这两天在做爬虫的时候,发现一个问题,部分网站在使用request.get返回的内容为空,原因为,这些网站对于发送的请求,会需要在head里面加上一些特殊信息,这些信息可以使用chrome进行查看,查看方法:
打开chrome,
打开开发者页面
输入网址,
选择network,点击all,选择左侧的一堆request,右边可以看到request 的head信息,
注意把这些信息传递给get即可:
这两天在做爬虫的时候,发现一个问题,部分网站在使用request.get返回的内容为空,原因为,这些网站对于发送的请求,会需要在head里面加上一些特殊信息,这些信息可以使用chrome进行查看,查看方法:
打开chrome,
打开开发者页面
输入网址,
选择network,点击all,选择左侧的一堆request,右边可以看到request 的head信息,
注意把这些信息传递给get即可: