Python爬虫实战(二) — 百度图片下载器

前言

上一次编写了一个Pixabay的图片下载器,但是,因为Pixabay的服务器在国外,下载速度上远远达不到效果,这次我们编写一个大家常用的百度图片的下载器,有了之前的经验后,这次就变得异常简单了。

本篇目标

  1. 根据关键词搜索图片,并提取链接
  2. 实现自动下载图片,并保存到指定文件夹下
  3. 若文件夹不存在,实现自动创建功能

快速开始

1.确定URL并抓取页面源码

首先我们确定好页面的URL是

http://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=贡桔&ct=201326592&v=flip

可以观察到贡桔是我们的关键词

还是老的套路,首先我们需要提取页面,并获得源码

def __init__(self):
    self.keyword = input('欢迎使用百度图片下载器\n请输入搜索关键词:') 
    self.siteURL = 'http://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=' + str(
        self.keyword) + '&ct=201326592&v=flip'

def getSource(self):
    url = self.siteURL
    result = requests.get(url).text
    return result

2.提取图片网址


刚打开百度图片时,默认是瀑布流版本,为了方便我们提取图片链接,切换为右上角的传统翻页版本,点击F12打开开发者工具,可以看到其中一张图片的源地址



复制这个地址,右键网页查看网页源代码,搜索这个地址



可以看到图片一共对应了三中不同的地址,经过一一查看,我们可以发现objURL地址所对应的图片最大最清晰,接下来,我们就提取这个地址。

首先,编写正则表达式

re.compile('"objURL":"(.*?)",', re.S)

这个很容易,然后我们完善一下代码块,返回图片地址的列表

def getItem(self):
        result = self.getSource()
        pattern1 = re.compile('"objURL":"(.*?)",', re.S)
        items = re.findall(pattern1, result)
        return items

4.保存图片

这里直接贴出来代码

def saveImage(self, item, name):
        picture = urllib.request.urlopen(item)
        fileName = name + '.jpg'
        string = 'D:\Cloud\%s\%s' % (self.path, fileName)
        E = os.path.exists(string)
        if not E:
            f = open(string, 'wb')
            f.write(picture.read())
            f.close()
        else:
            print('图片已经存在,跳过!')
            return False


    def makeDir(self, path):
        self.path = path.strip()
        E = os.path.exists(os.path.join('D:\Cloud', self.path))
        if not E: 
            os.makedirs(os.path.join('D:\Cloud', self.path))
            os.chdir(os.path.join('D:\Cloud', self.path))
            print('成功创建名为', self.path, '的文件夹')
            return self.path
        else:
            print('名为', self.path, '的文件夹已经存在...')
            return False

    def savePicture(self):
        i = 0
        items = self.getItem()
        print ('找到关键词:'+self.keyword+'的图片,现在开始下载图片...')
        self.makeDir(path=self.keyword)
        for item in items:
            print ('正在下载第'+str(i+1)+'张图片,图片地址:'+str(item))
            try:
                pic = requests.get(item, timeout=10)
            except requests.exceptions.ConnectionError:
                print ('【错误】当前图片无法下载')
                continue
            self.saveImage(item, name=self.keyword+'_' + str(i))
            i += 1

完整代码如下

import re
import os
import requests
import urllib
import time


class BaiduSpider():

    def __init__(self):
        self.keyword = input('欢迎使用百度图片下载器\n请输入搜索关键词:') 
        self.siteURL = 'http://image.baidu.com/search/flip?tn=baiduimage&ie=utf-8&word=' + str(
            self.keyword) + '&ct=201326592&v=flip'

    def getSource(self):
        url = self.siteURL
        result = requests.get(url).text
        return result

    def getItem(self):
        result = self.getSource()
        pattern1 = re.compile('"objURL":"(.*?)",', re.S)
        items = re.findall(pattern1, result)
        return items

    def saveImage(self, item, name):
        picture = urllib.request.urlopen(item)
        fileName = name + '.jpg'
        string = 'D:\Cloud\%s\%s' % (self.path, fileName)
        E = os.path.exists(string)
        if not E:
            f = open(string, 'wb')
            f.write(picture.read())
            f.close()
        else:
            print('图片已经存在,跳过!')
            return False


    def makeDir(self, path):
        self.path = path.strip()
        E = os.path.exists(os.path.join('D:\Cloud', self.path))
        if not E: 
            os.makedirs(os.path.join('D:\Cloud', self.path))
            os.chdir(os.path.join('D:\Cloud', self.path))
            print('成功创建名为', self.path, '的文件夹')
            return self.path
        else:
            print('名为', self.path, '的文件夹已经存在...')
            return False

    def savePicture(self):
        i = 0
        items = self.getItem()
        print ('找到关键词:'+self.keyword+'的图片,现在开始下载图片...')
        self.makeDir(path=self.keyword)
        for item in items:
            print ('正在下载第'+str(i+1)+'张图片,图片地址:'+str(item))
            try:
                pic = requests.get(item, timeout=10)
            except requests.exceptions.ConnectionError:
                print ('【错误】当前图片无法下载')
                continue
            self.saveImage(item, name=self.keyword+'_' + str(i))
            i += 1

if __name__ == '__main__':
    spider = BaiduSpider()
    spider.savePicture()

Github版本

Github代码

运行结果

小结

希望大家都能尊重我的付出,转载我的文章请注明出处。

最后,也希望大家关注我的个人博客 HD Blog

谢谢~

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,294评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,780评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,001评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,593评论 1 289
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,687评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,679评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,667评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,426评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,872评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,180评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,346评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,019评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,658评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,268评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,495评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,275评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,207评论 2 352

推荐阅读更多精彩内容