python使用requests+re爬取豆瓣电影top250简单入门爬虫

在学习了python基础后,一心想着快速入门爬虫,因为我就是为爬虫而学的python,所以就找了这个豆瓣电影来爬取。好了,废话不多说,进入正题

1.找到网页并分析网页结构

首先进入豆瓣电影Top250这个网页,按下f12打开开发者工具,如下图

然后开始分析网页,点击开发者工具左上角的有个箭头的东西去找你需要找的数据,在这里我发现每个电影的信息都是在li的标签内,所以可以用正则表达式来先提取每一个电影,然后在分别提取每个电影中的数据。每个电影现在的数据都可以获取了,但是这个url只有25个电影,怎样获取下一页的呢?这里我们可以在每个页面获取下一页的链接,然后通过循环来继续获取下一页的电影数据即可

我们可以先用开发者工具的箭头点一下后页,然后就显示右边的箭头数据出来,这里我们也可以用正则表达式来获取下一页的链接,然后接下来的工作就是循环了,好了分析结束,开始敲代码吧!

2.用面向对象的方法进行爬取数据

先用requests对网页进行请求,获取网页的html结构,在这里,为了防止网页的反爬虫技术,我加了个请求头

(记得使用requests库之前先导入,没有的可以在命令行通过pip install requests进行下载)

请求头在开发者工具中查看,如下图所示

接下用正则表达式进行获取数据

先匹配每一个电影和每一页数据(使用正则表达式的库是re)

接下来获取每个电影的数据

注意:获取到上面的数据,有的是空的,所以还需要进行判断是否为空,为了好看,我用了三元表达式进行判断,完成之后把他们存入字典

接下来就是进行循环取下一页的数据了

3.如果你有点数据库基础的话,还可以把他们存入数据库,在这里我把这些数据存入MySQL数据库,代码如下,需要自己先建好数据库好表格

这是操作数据库的类(使用的库为pymysql)

然后回到爬虫类进行把数据存入数据库

4.成功后你就会在数据库中查到以下数据

END

最后,非常感谢你看完了这篇文章,喜欢的话可以点赞或者转发下,谢谢哈,或者有什么问题的话欢迎去我的微信公众号日常学python后台回复我,我会认真回答的。

ps:如果需要完整代码的话可以在微信公众号日常学python后台回复top250即可,或者想要什么学习资源也可以后台找我哦

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 声明:本文讲解的实战内容,均仅用于学习交流,请勿用于任何商业用途! 一、前言 强烈建议:请在电脑的陪同下,阅读本文...
    Bruce_Szh阅读 14,382评论 6 28
  • 如今,手机已经不仅仅用来接打电话,智能手机的出现和大量普及,让手机成为了我们生活中最重要的一部分。每天浏览...
    碧空月_阅读 3,928评论 3 8
  • 今天我们要考普通话,我上大学就考过一次,要求是二乙过关,结果我好像以一分之差考了个三甲,没过关。当时考试是笔试和面...
    黄灰红阅读 1,270评论 0 0
  • 《活出个样给自己看》,今天看到两位伤残军人演唱这首歌,觉得我也要学会
    张伟kk阅读 1,000评论 0 0

友情链接更多精彩内容