爬虫基础|刻意练习,让技术熟烂于心(3)

爬虫是一个技能型的知识,不是说掌握了一次就能学好,而是需要学懂原理,在不同的网站上有不一样的设置和应用。

今天就来3个练习题,每道题练习5遍,确保熟练掌握。

1,抓取下面这个页面文章所有的标题

https://www.zhihu.com/people/huangyoucan/answers

2,抓取《猫总在路上》这个公众号所有的历史文章标题

3,抓取豆瓣Top250所有电影的标题

https://movie.douban.com/top250

疑问一:这个多页面怎么抓取?

第一页:https://movie.douban.com/top250?start=0&filter=

 第二页:https://movie.douban.com/top250?start=25&filter=

这里会发现豆瓣的第一页和第二页的编码差为25,可以用这个URL来代替:

https://movie.douban.com/top250?start=[0-225:25]&filter=

225是最后一页的数字,25是等差数。

疑问二:爬出来的数据为什么不是按顺序排列的?

如果需要按顺序排列,有两个个解决方法

方法一,同时抓取页面里的序号,在excel中排列,这个方法后面再讲。

方法二,安装couchDB。

CouchDB的安装和配置

下载地址:http://couchdb.apache.org/

在webscraper的配置如下

sitemap db - http://localhost:5984/scraper-sitemaps

data db - http://localhost:5984/

配置webscraper

右键单击web scraper的图标,选择“选项”

将存储地设置为couchDB,参数按照上面的来设置。

配置CouchDB

浏览器输入地址:http://127.0.0.1:5984/_utils/

1,点击creat database

2,输入数据库名称

3,点击create


最后关闭浏览器重新打开,CouchDB就能生效了。


大家可能会发现一个问题,再次打开的时候,之前创建的sitemap内容不见了。这是因为之前的sitemap创建在浏览器内置的数据库,现在更换到couchDB,浏览器就读取不到之前的信息了。

第一步
第二步

解决方法:

1,进入到某个sitemap,点击Export,将出现的代码复制。

2,转换到CouchDB后,点击Import sitemap,将复制的代码粘贴到Sitemap JSON,然后设置站点名称,点击最后的Import Sitemap即可。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,907评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,987评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,298评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,586评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,633评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,488评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,275评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,176评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,619评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,819评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,932评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,655评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,265评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,871评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,994评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,095评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,884评论 2 354

推荐阅读更多精彩内容

  • 爬虫是一个技能型的知识,不是说掌握了一次就能学好,而是需要学懂原理,在不同的网站上有不一样的设置和应用。 今天就来...
    木子桃心说阅读 409评论 0 3
  • 说明:本文章内容学习自“三 节 课”平台的《人人都能学会的数据爬虫课》。 产品和运营工作中,经常需要做出大量的决策...
    CJDUDU阅读 1,620评论 0 6
  • afinalAfinal是一个android的ioc,orm框架 https://github.com/yangf...
    passiontim阅读 15,429评论 2 45
  • 2017年3月4日 晴 一周当中唯一一天排满全天课程的今天,上完所有课程下来,喉咙冒火。 下课回到家,不想出去,不...
    叮铛之眼阅读 1,207评论 3 6
  • 大家好,我们又见面了。今天我来和你谈谈高效学习的方法,希望对你有帮助。在当今社会,高效学习一直是一个重点的话题,只...
    遂十八岁阅读 369评论 0 0