第二课:爬虫:(俊)爬取简书漫画专栏

爬取简书漫画专栏网页的文章图片、文章作者、文章创建的时间、文章的内容
代码:(Python 3)
如果是Python 3
就不要使用
import sys
reload(sys)
sys.setdefaultencoding("utf-8")
改为
import importlib
importlib.reload(sys)

#!/bin/python

# coding: utf-8
import importlib
importlib.reload(sys)
from bs4 import BeautifulSoup
import requests

html_doc = """

<div>

       <a class="blue-link" target="_blank" href="/u/d36ea793dd5e">庚桑</a>

        <span class="time" data-shared-at="2017-08-27T16:48:36+08:00"></span>

      </div>

    </div>

    <a class="title" target="_blank" href="/p/afab067940e1">你听。</a>

    <p class="abstract">

      生活需要多一点点小温馨的慰籍。 忆似故人曲 如果说已经不知道要怎么用谈话来表达自己,那麽一头栽进画画中就可以让我畅所欲言 。 构思一个形象,配上一段文字,她就成了它们。而它...

    </p>

    <div class="meta">

      <a target="_blank" href="/p/afab067940e1">

        <i class="iconfont ic-list-read"></i> 4

</a>        <a target="_blank" href="/p/afab067940e1#comments">

          <i class="iconfont ic-list-comments"></i> 0

</a>      <span><i class="iconfont ic-list-like"></i> 1</span>

    </div>

  </div>

</li>

<li id="note-16330011" data-note-id="16330011" class="have-img">

    <a class="wrap-img" href="/p/6b7eaab896c5" target="_blank">

      ![](//upload-images.jianshu.io/upload_images/6276133-f7e3df55576ccb5a.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/150/h/120)

    </a>

  <div class="content">

    <div class="author">

      <a class="avatar" target="_blank" href="/u/e48ead073ebb">

        ![](//upload.jianshu.io/users/upload_avatars/6276133/00ade28c-da5a-4282-8bef-082b21c07bb5.jpg?imageMogr2/auto-orient/strip|imageView2/1/w/96/h/96)

</a>      <div class="name">

        <a class="blue-link" target="_blank" href="/u/e48ead073ebb">若水国画</a>

        <span class="time" data-shared-at="2017-08-27T17:16:45+08:00"></span>

      </div>

    </div>

    <a class="title" target="_blank" href="/p/6b7eaab896c5">学国画手记:第55篇《疏枝唤雨》</a>

    <p class="abstract">

      临摹宋徽宗《写生珍禽图》之《疏枝唤雨》珠颈斑鸠。 斑鸠寓意长长久久。明天是农历的七月初七,也是我们中国的传统节日七夕节。提前祝天下有情人七夕情人节快乐!愿所有的爱情都能像阳光...

    </p>

    <div class="meta">

      <a target="_blank" href="/p/6b7eaab896c5">

        <i class="iconfont ic-list-read"></i> 7

</a>        <a target="_blank" href="/p/6b7eaab896c5#comments">

          <i class="iconfont ic-list-comments"></i> 0

</a>      <span><i class="iconfont ic-list-like"></i> 3</span>

    </div>

  </div>

</li>

"""

soup = BeautifulSoup(html_doc, 'html.parser')

# 如果没有上面那句,就会提示soup未定义

#soup = soup.find_all('a',class_="blue-link")

# 查找所有有关的节点

tags = soup.find_all('div', class_="content")

# r同样,如果没有上面那句,就会提示tags未定义

for tag in tags:

        image = tag.img['src']#获取图片

        article_user = tag.div.a['href']#获取作者

        created_time = tag.div.span['data-shared-at']#获取时间

        article_url = tag.p.get_text()

        tag_span = tag.div.div.find_all('span')

        likes = tag_span[0].get_text(strip=True) #此处不明白

        # 可以在查找的 tag 下继续使用 find_all()
print (tag)

print (article_url)

print (created_time)

print (image)

【注意:

created_time = tag.div.span['data-shared-at']中的[]的内容是标签的属性,不是标签属性的内容,也不是class或id设置的名字


运行效果:
1、


2、


3、


4、在浏览器中输入上图中获取的图片的url
可以看到


最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容

  • 可以看我的博客 lmwen.top 或者订阅我的公众号 简介有稍微接触python的人就会知道,python中...
    ayuLiao阅读 3,093评论 1 5
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,598评论 18 139
  • http://python.jobbole.com/85231/ 关于专业技能写完项目接着写写一名3年工作经验的J...
    燕京博士阅读 7,546评论 1 118
  • 声明:本文讲解的实战内容,均仅用于学习交流,请勿用于任何商业用途! 一、前言 强烈建议:请在电脑的陪同下,阅读本文...
    Bruce_Szh阅读 12,675评论 6 28
  • 此段内容简要来自自强学堂的教程详情请查询自强学堂 一、 后台的运作流程 接收request请求 处理数据 获取请求...
    coder_ben阅读 5,243评论 6 56