【openshift-4】实现简单爬虫功能+生成在线API

前提:请先学习爬虫框架BeautifulSoupflask中jsonify的简单使用

1、如何简单的使用爬虫框架BeautifulSoup,可以通过慕课网上的课程学习:Python开发简单爬虫

2、使用jsonify将数据转为JSON格式

一、实现简单的爬虫功能

1、选定爬取内容,并对网页代码进行分析

我们以爬取 python中文开发者社区 首页热点文章为例,示意图如下:

网页左侧红框内是要爬取的内容,网页右侧是使用Chrom浏览器查看HTML代码

openshift-guide-4-1.png

可以看到,我们要爬取的内容是在<div class='news-hot'></div>中,这里我们只爬取目标文章的URL和标题

2、爬虫结构简介

学习过慕课网的视频后,应该对爬虫的结构一定了解,这里用文字归纳一下

一般爬虫的结构主要分为三大部分:爬虫调度器爬虫部分数据输出

其中爬虫部分又包括三个模块:URL管理器网页下载器网页解析器,示意图如下:

openshift-guide-4-2.png

图片取自于CSDN博客,可到作者该博客中深入了解

3、添加BeautifulSoup依赖

如何添加第三方依赖库,已在上篇博客中有讲到,添加方法同Flask

openshift-guide-4-3.png

4、编写爬虫

因为这里只讲解如何操作,所以我们以最简单的方式来实现

所有的爬虫操作写在一个文件中,在保留实现思路的情况下提高易读性(步骤过于简写,并不标准,也没做异常处理,仅用于理解参考)

思路:接收外部传入的URL->经过爬虫处理->返回处理后的数据

创建爬虫文件hellospider.py,代码如下(截图):

openshift-guide-4-4.png

二、将爬取的数据生成在线API

1、在helloflask.py中添加调用爬虫的路径/hot,代码如下(截图):

openshift-guide-4-5.png

2、将修改后的应用部署到openshift上

此时,项目目录结构如下:

openshift-guide-4-6.png

终于到了激动人心的时刻,将本地修改后的项目push到线上,快查看你自己实现的API吧

我的线上API访问结果如下:https://python-yunschou.rhcloud.com/hot

openshift-guide-4-7.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,922评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,591评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,546评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,467评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,553评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,580评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,588评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,334评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,780评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,092评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,270评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,925评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,573评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,194评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,437评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,154评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,127评论 2 352

推荐阅读更多精彩内容

  • # Python 资源大全中文版 我想很多程序员应该记得 GitHub 上有一个 Awesome - XXX 系列...
    aimaile阅读 26,468评论 6 428
  • 声明:本文讲解的实战内容,均仅用于学习交流,请勿用于任何商业用途! 一、前言 强烈建议:请在电脑的陪同下,阅读本文...
    Bruce_Szh阅读 12,695评论 6 28
  • 如果你在某个夜里突然在高中室友群发现大家都在找以前的照片,一张张标示着你青春岁月的照片,你会想起什么? ...
    我是手心阅读 307评论 1 1
  • 爱看美食节目已有年头,各种介绍菜肴制作,厨艺比赛,综艺厨房,都看过。看《大长今》时对美食上升到情感高度。《舌...
    书书虫阅读 428评论 4 3