Python网络爬虫抓取动态网页并将数据存入数据库MYSQL

简述

以下的代码是使用python实现的网络爬虫,抓取动态网页http://hb.qq.com/baoliao/。此网页中的最新、精华下面的内容是由JavaScript动态生成的。审查网页元素与网页源码是不同。

本人对于Python学习创建了一个小小的学习圈子,为各位提供了一个平台,大家一起来讨论学习Python。欢迎各位到来Python学习群:960410445一起讨论视频分享学习。Python是未来的发展方向,正在挑战我们的分析能力及对世界的认知方式,因此,我们与时俱进,迎接变化,并不断的成长,掌握Python核心技术,才是掌握真正的价值所在。  

以上是网页源码

以上是审查网页元素

所以此处不能简单的使用正则表达式来获取内容。

以下是完整的获取内容并存储到数据库的思路及源码。

实现思路:

抓取实际访问的动态页面的url – 使用正则表达式获取需要的内容 – 解析内容 – 存储内容

以上部分过程文字解释:

抓取实际访问的动态页面的url:

在火狐浏览器中,右键打开插件 使用**firebug审查元素** *(没有这项的,要安装firebug插件),找到并打开**网络(NET)**标签页。重新加载网页,获得网页的响应信息,包括连接地址。每个连接地址都可以在浏览器中打开。本网站的动态网页访问地址是:

http://baoliao.hb.qq.com/api/report/NewIndexReportsList/cityid/18/num/20/pageno/1?callback=jQuery183019859437816181613_1440723895018&_=1440723895472

源码

注意:使用python的版本是 2.7

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • Python常用库大全,看看有没有你需要的。 环境管理 管理 Python 版本和环境的工具 p – 非常简单的交...
    XDgbh阅读 15,932评论 4 147
  • 如何用Python爬数据?(一)网页抓取 你期待已久的Python网络数据爬虫教程来了。本文为你演示如何从网页里找...
    王树义阅读 376,305评论 27 268
  • 雨滴密集地 不间断地下落 考验着伞的品质 我喜欢的 是在这样的时候 坐着 一个人看书 思考 前进 没有雨伞的 孩子...
    厨师hai阅读 2,463评论 0 1
  • 周末儿子看姐姐用小铲子挖土,也想要,在旁边缠着姐姐,可是姐姐不愿意给。我启发式提问:“挖土,除了用铲子还可以用什么...
    蜂蜜87阅读 1,427评论 0 0
  • 七2班假期学习之星评选 (七1班因各项检查没有量化作罢)。 上周二下午,班会课。七2教室。 事先由学习委员陈家绮收...
    舒心语文阅读 2,312评论 0 0

友情链接更多精彩内容