爬虫进阶之去哪儿酒店(国内外)

之前发了一篇爬取去哪儿自由行的数据后,有一个读者在后台问到我怎么爬取去哪儿酒店的数据。当时简单看了下,觉得难度不大。就跟他讲了下思路。因为当时爬取自由行的网站选取的是移动端。为了能让读者学习到更多的知识,我们今天选取了去哪儿的电脑端来进行爬取。其实爬虫的思路都是一样的,无非就是先获取网页信息,然后再解析。解析之后就提取所要的数据。如果要对数据要进一步的分析的话。还需要对数据进行清洗,建模等一系列操作。今天作者给大家带来的就是去哪儿酒店酒店信息的获取,并进行数据清洗,分析。

1. 准备工作

        本篇案例主要涉及到的Python的库有Selenium,pymongo库,以及解析库pyquery。清洗库pandas库和matplotlib库,并且安装好了Chrome浏览器和配置好了ChromeDriver。

  2. 页面分析

 首先访问去哪儿网址:"https://www.qunar.com/",然后选择酒店这一栏。我们可以看到目前的链接为:"http://hotel.qunar.com/"。这个就是我们要访问的域名。如下图所示。

我们点击页面的目的地输入城市,然后点击搜索即可出现酒店列表,即我们可以用Selenium来控制浏览器输入城市名,然后点击。我们进入到酒店页面。如下图所示。

如果有更多的业务需求,我们可以选择菜单上的酒店类型,实现思路一样。在此我们默认为"酒店搜索"这一栏。并且选择按评分来筛选酒店。我们随机选择一个酒店名,右击打开开发者工具。如下图所示。

经过分析可知每个酒店的内容是在id为"jxContentPanel"中,并且在其下class为"b_result_box js_list_block"中可以看到每个酒店的详细信息。如下图所示。

我们就可以pyquery解析库来解析网页获取我们所需要的信息了,至此网页的解析已经完成。下面我们用代码来实现整个抓取的过程。

 3. 实战演练

 3.1 获取目的地城市列表

这里我们可以使用我们之前抓取自由行数据时抓取到的目的地城市列表,实现如下:


  3.2  获取去哪儿页面详情页

我们已经有目的地城市列表了,所以在在访问去哪儿网址时,只用输入所获得的城市就可以进行搜索了。然后就可以获取酒店页面了。 并且要获得多个页面的酒店。所以也要实现翻页的方法。实现如下:


 3.3解析酒店列表

我们已经获得了酒店列表页面信息,接下来用解析库pyquery进行解析,就可以获取我们想要的数据了。实现如下:

3.4保存到数据库和csv文件


  3.5运行代码

  3.6结果查看

MongoDB数据库结果:

CSV文件:

3.7数据清洗

        利用pandas库进行数据清洗,实现如下:

    结果如下 :

    3.8 项目代码

 https://github.com/NGUWQ/Python3Spider/tree/master/dataanalysis

4. 结语

此项目主要功能是爬取去哪儿酒店,如果你要爬取去哪儿的其它业务,可以把在此基础扩展为去哪儿网的全站爬取,思路也是一样。。


对爬虫,数据分析,算法感兴趣的朋友们,可以加微信公众号 TWcoding,我们一起玩转Python。

If it works for you.Please,star.

自助者,天助之

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,761评论 5 460
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,953评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,998评论 0 320
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,248评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,130评论 4 356
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,145评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,550评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,236评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,510评论 1 291
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,601评论 2 310
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,376评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,247评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,613评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,911评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,191评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,532评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,739评论 2 335

推荐阅读更多精彩内容