写爬虫,要懂代码吗?No!!!

说到爬虫,你想到了什么?

是不是想着,这是开发人员写的代码,生成一个软件,然后执行,就去访问某些网站,从网站上获取特定的信息,然后把这些信息存储下来。

如果你是这么想的,是不是觉得‘爬虫’很高大上,自己不懂得写代码,想从网站上搞点数据下来,就会很难呢?

那今天,我就教你一招,软件测试行业不内传的小技巧不写代码,速度、效率比写代码还高的办法,认真学习下吧!

首先,确认你要爬取的网站。如,我想了解前沿技术,我想爬取 腾讯云沙龙 视频,

然后,你要确认,想要爬取的信息。我想要获取页面中课题的基本信息,如,标题、类型、开课时间、课程状态等。

作为一个测试人员,或者有一定网络知识基础的同学,肯定就会想到,我可以通过浏览器的 F12,看下页面接口请求信息,因为,接口主要就是用来传递数据的,我要的信息,很可能在某个接口中,就会有。

通过这个抓包,我们发现有如图中的接口,返回了我们想要的信息。

接下来,我们就要想,用什么办法提取到这些信息,并固化下来。

其实,对于测试人员,我们有很多现成的工具。大家平时做接口测试,都用什么工具?——Jmeter ! 是不是,相信很多同学都会用,今天我们的爬虫,就用 jmeter 来实现。

jmeter 写 http 协议的接口请求,大家会吗?

不会! 不会的自己搬上小板凳,来公众号:柠檬班自动化测试 找我噢。

调通接口后,我们看下响应结果是 JSON,就要分析 JSON 数据格式,分析出自己想要爬取下来的信息的 key

接下来,提取 JSON 中对应 key 的值

这个 JSON 提取器中使用了一些特殊用法,如果大家看不懂,可以咨询柠檬班老师,也可以在柠檬班的测试派网站中搜索文章学习。

前面大家看到,一个页面有非常多个课程信息,那通过这个 JSON 提取器,获取的课程 id、标题、名称、起始时间、状态肯定也会返回多个值。要想把这些多值,固化下来,首先,我们肯定会想到要用循环,既然要固化下来,那肯定就会想到要写入文件,所以我们就会采用循环相关的控制器

固化到文件,这一步,估计很多同学都会头痛!

因为 jmeter 本身并没有提供运行过程中的参数值保存到文件的功能,要想保存这些动态参数值,可能需要写代码,所以很多不懂代码的,就头痛了。

但是,

我们采用了数据库嫁接法!

在 setup 线程组中,添加数据库配置,采用 SQLite 数据库,这个数据库不需要安装,直接就可以用,然后,再创建一张表,用于后续存储我们爬取的信息,然后,就是在循环控制器中,把从接口中提取出来的数据,循环的写入数据库表中,即可。

当然,这其中,还包括数据的清洗!

此时,你要爬取的数据,已经写到数据库中了,算不算已经固化了你想要的信息呢?

如果,你觉得这还不算,你还可以添加一个 tearDown 线程组,写一个查询脚本,查询库中所有数据,再,保存响应结果到文件

此时,你可以去你的 jmeter 下面找找,看能不能找到你保存的文件,打开看看。

最后,打开保存的信息,或把爬取的信息用于其他用途

好了,不知不觉中,一个爬虫就完成了,回头想一下,自己有些过一行程序代码吗?

No!!!

原文:http://testingpai.com/article/1599879152643

脚本源码 

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,427评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,551评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,747评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,939评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,955评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,737评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,448评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,352评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,834评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,992评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,133评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,815评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,477评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,022评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,147评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,398评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,077评论 2 355