自学爬虫一月总结

小白的记录,写给自己

没有任何编程基础,C都没学过。
花了两周多,把廖大的教程草草过了,直接跳过web部分。然后开学了。
复习了一周数据结构。开始写爬虫。

第一个爬虫其实是 天涯论坛。大概三周前多一点,刚学会点正则表达式(其实是最简单的(.*?)),背着大电脑到图书馆,然后对着崔庆才大神的教程鼓捣半天,最后终于弄出来了,感觉整个世界都亮了。

第一个爬虫

然后去爬糗事百科,接着是百度贴吧旅行贴的图片,随便输入帖子号便可打印评论和下载图片(顺便还发现了两有趣的贴)

最开始是urllib2、re,慢慢开始学 requests、BeautifulSoup、xpath。
期间还把《图解http》看了。

然后在 CSDN上写博客,记录小项目。小项目前顺手加个"python 网络爬虫入门(一\二\三)",骗骗一样刚学的盆友也好增加浏览量,好吧承认我是个小心机~ _

开始用上面的富文本编辑器,不知道为啥页面一团糟。后面注册了简书帐号,发现markdown编辑器不要太好用,简书界面也友好,爱上了。后面发现CSDN也有markdown编辑器,于是每次先在简书上排版,发布,最后复制粘贴到CSND,
嘻嘻我简直机智~

研究了三天多pixabay,最后做了个"图片下载神器",速度飞快。后面发现特么的获取的不是原图啊,赶紧地将大标题改成“一个简陋的下载器”,尴尬。

获取不到高清原图当然不服气,尤其是pixabay这种高人气网站。
然后试着破解pexels,成了。
(为了爬外网还专门买了一个月vpn)
原来图片API在源码里,新鲜不已。虽然单线程有些慢,终于是实际意义上的下载器。开始羞耻哒在Github上放自己的代码(说bug也行吧[小白式捂脸])。

Pycharm这个编辑器确实很好用,就是界面太。。。于是动手修改Pycharm设置 ,改了一下午加一晚上,变成这样,个人觉得清新又护眼~

我的Pycharm界面.png

前阵子川大掀起“玻璃杯事件”,盛况空前。做了个爬虫爬info神回复前100条,“史上最全,拿走不谢”,抛到空间和朋友圈,小伙伴们都惊呆了,顺便骗了不少浏览量。通过这个爬虫学会了抓包,原来破解动态网页不止selenium和PhantomJS。

也遇到很多问题,基本上是自己想+查笔记+百度+知乎+csdn+stackoverflow解决的。

用selenium爬教务网失败。改用抓包,加上stackoverflow上偷来的奇淫巧计,顺利爬取 教务处成绩并保存至excel,仅用代码30余行。竟然开始有人浏览我写的东西,还收到几个赞,开心_

看到好多大神爬电商、招聘网站,分析数据起来有模有样,心动了。于是去爬 拉勾网,用BDP搞了个 小型数据分析。花了一晚上分析网站,主要用到抓包和Cookies,没学到scrapy所以有一点慢。3万多数据,没见过世面的小白还有些小激动~
做了一些图表效果还行(BDP大法吼啊)。

不得不说用简书记录项目,还是很费时间的,不过感觉也受了不少锻炼,尤其在总结思路、逻辑编排这几个方面。通过记录项目中的问题和解决思路,加深巩固了知识点。
</br>

最后总结一下:

这一个月,感觉也是断断续续,
毕竟本专业还要上课,主要通过
看教程、做笔记、写博文构建知识体系,通过小项目驱动学习

首先还是有收获
1、乐趣。发现了自己的兴趣原来在编程,爬虫简直打开了一个新世界。
每一次爬虫,就像升级打怪,万一通关,成就感满满。(反正比做实验好玩多了)
2、从迷茫到很忙。发现编程这一行牛人好多,自己要学的东西也好多呀。
3、告别依赖。貌似开始学会自己独立思考、解决各种问题,有自己的想法很重要,再不济“它山之石,可以攻玉”。

问题也不少
1、感觉爬虫 上手快精通难,深入学习的动力貌似不足,基础存在漏洞
2、专注度不够 效率很低,要是有大神带带就好啦
3、写的是技术文,却发现自己貌似渐渐奔往 段子手 的路上,怎么回事?

我可能爬的假的爬虫

一个月的爬虫学习,算是入门了吧。
接下来就是学习PhtomJS动态页面、模拟登录破解验证码、多线程、Scrapy及mongodb数据库等等,太多太多得慢慢来。

不管怎么样,做自己喜欢的事情,真好。

4月11日添:
于4月10日,新开通知乎专栏:https://zhuanlan.zhihu.com/Waking-up
这是后话了。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,793评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,567评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,342评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,825评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,814评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,680评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,033评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,687评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,175评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,668评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,775评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,419评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,020评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,978评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,206评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,092评论 2 351
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,510评论 2 343

推荐阅读更多精彩内容