最近刚开始接触爬虫,在学习了BeautifulSoup包之后便想尝试着使用BeautifulSoup爬取豆瓣首页(https://book.douban.com/)。
一、首先导入所需的库

二、获取豆瓣网首页

三、对网页进行解析
这里使用lxml对网页进行解析,lxml相较于python自带模块解析效率更高。

get_information函数用于抽取图书的详细信息。


四、执行网页获取、网页解析,并将解析结果写入csv文件中

最近刚开始接触爬虫,在学习了BeautifulSoup包之后便想尝试着使用BeautifulSoup爬取豆瓣首页(https://book.douban.com/)。
这里使用lxml对网页进行解析,lxml相较于python自带模块解析效率更高。
get_information函数用于抽取图书的详细信息。