Python爬取豆瓣即将上映的电影信息优化版

1.python中的生成表达式

  1. 列表推导式
    格式[表达式 for 临时变量 in 可迭代对象[条件语句]]
    用途:快速生成一个列表
#使用普通 for 循环 创建列表
#声明一个空列表
li = []
#for 临时变量 in 可迭代对象
#   循环体
for i in range(10):
    li.append(i)
print(li)
#以上我们使用4行代码显示一个0-9的列表
#li2 = [i for i in range(10)]
#print(li2)
print([i for i in range(10)])
#生成随机数
# from random import randint
# print(randint(60, 100))

1.1 生成一个列表 ['序号:998','序号:998','序号:998']共10个元素

#普通for循环
# from random import randint
# li = []
# for _ in range(10):         #下划线是给读代码人看的 ,表示下面将不使用—_
#     li.append("序号{}".format(randint(100, 999)))
# print(li)



#列表推导式
print(['序号:{}'.format(randint(100,999)) for _ in range(10)])

1.2 使用列表推导式生成一个含有20个元素的随机数列表[]
删选出 所有奇数

from random import randint
li = [randint(30, 100) for _ in range(20)]
print(li)
print([x for x in li if x%2 ==1 ])

2.三目运算符

格式:

 返回值 if 满足条件的表达式 else 不满足时要执行的事情
#如何使用一行的 if else?
li = ['dada']
# if len(li)==0:
#     li = 'aa'
# else:
#     li = li[0]
# print(li)
s = 'aa' if len(li) == 0 else li[0]
print(s)

3.爬取豆瓣即将上映的电影信息优化版

from xpinyin import Pinyin
import requests
from lxml import html
import pandas as pd
# pip install xpinyin
def spider(city):
    # splitter 是分隔使用符号,默认是 '-'
    city_pinyin = Pinyin().get_pinyin(city,splitter='')
    url = 'https://movie.douban.com/cinema/later/{}/'.format(city_pinyin)
    print('您要爬取的目标站点是', url)
    print('爬虫进行中,请稍后.........')
    # 请求头信息, 目的是伪装成浏览器进行爬虫
    headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:70.0) Gecko/20100101 Firefox/70.0'}
    # 获取网页的源代码
    response = requests.get(url, headers = headers)
    html_data = response.text
    # print(html_data)
    # 提取我们想要的内容
    selector = html.fromstring(html_data)
    div_list = selector.xpath('//div[@id="showing-soon"]/div')
    print('您好,{}市共查询到{}部即将上映的电影'.format(city, len(div_list)))
    movie_info_list = []
    for div in div_list:
        # 获取电影名字
        movie_name = div.xpath('div[1]/h3/a/text()')
        # if len(movie_name)==0:
        #     movie_name = '没有查询到数据'
        # else:
        #     movie_name = movie_name[0]
        movie_name = '对不起,没有查询到数据' if len(movie_name) == 0 else movie_name[0]
        # print(movie_name)

        # 上映日期
        date = div.xpath('div[1]/ul/li[1]/text()')
        date = '对不起,没有查询到数据' if len(date) == 0 else date[0]
        # print(date)

        # 类型
        type = div.xpath('div[1]/ul/li[2]/text()')
        type = '对不起,没有查询到数据' if len(type) == 0 else type[0]
        # print(type)

        # 国家
        country = div.xpath('div[1]/ul/li[3]/text()')
        country = '对不起,没有查询到数据' if len(country) == 0 else country[0]
        # print(country)

        # 想看人数
        want_see = div.xpath('div[1]/ul/li[4]/span/text()')
        want_see = '对不起,没有查询到数据' if len(want_see) == 0 else want_see[0]
        want_see = int(want_see.replace('人想看', ''))
        # print(want_see)

        # 图片链接
        img_link = div.xpath('a/img/@src')[0]


        movie_info_list.append({
            "movie_name": movie_name,
            "date": date,
            "type": type,
            "country": country,
            "want_see": want_see,
            "img_link": img_link
            })


    movie_info_list.sort(key=lambda x: x['want_see'])

    # 遍历
    for movie in movie_info_list:
        print(movie)
        # 图片爬取
        with open('./douban_img/{}.jpg'.format(movie['movie_name']), 'wb') as f:   #把爬取下来的图片存在douban_img中
            f.write(requests.get(movie['img_link']).content)

    pd.DataFrame(movie_info_list).to_csv('{} douban_movie_info.csv'.format(city_pinyin))

# 在屏幕中输入请输入您要查看即将上映电影信息的城市
city = input('输入您要查看即将上映电影信息的城市')
# 调用函数
spider(city)

4.绘制线形图

  • 安装matplotlib和numpy
pip install matplotlib
pip install numpy
  • 导入matplotlib库和numpy库
from matplotlib import pyplot as plt
import numpy as np
  • 选取100等间距的点(x,y)然后进行绘制曲线图
#绘制  正弦曲线

#若label中的中文无法正常显示,设置支持中文字体
#设置支持中文字体
plt.rcParams["font.sans-serif"] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False

#生成[0,2π]区间100个等距离的点
x = np.linspace(0, 2*np.pi, num=100)
print(x)
y = np.sin(x)
cosy = np.cos(x)

#绘制
plt.plot(x, y,
         color ='g', #线的颜色
         linestyle=':',#线的风格   '-'代表实线  '--'代表虚线 ':'代表点划线
        marker ='o',   #标记点的样式 'o'代表实心圆
        markerfacecolor ='r',   #标记点的颜色
        alpha =0.8,   #设置透明度
         label='sin(x)'
         )
plt.plot(x, cosy, marker='o',linestyle='-',  alpha =0.8,label = 'sin(x)' )
plt.xlabel('time(s)')
plt.ylabel('电压(v)')
plt.title('电压随时间变化曲线')
plt.legend()  #设置图例
plt.show()

5.条形图

  • 随机生成6只口红价格,以柱状图显示
#若label中的中文无法正常显示,设置支持中文字体
#设置支持中文字体
plt.rcParams["font.sans-serif"] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False

from random import randint
x = ['口红{}'.format(i) for i in range(1,7)]
print(x)
y =[randint(200, 1000) for _ in range(6)]
print(y)
plt.bar(x, y)
plt.grid()
plt.xlabel('口红品牌')
plt.ylabel('口红价格(元)')
plt.show()
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,245评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,749评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,960评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,575评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,668评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,670评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,664评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,422评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,864评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,178评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,340评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,015评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,646评论 3 323
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,265评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,494评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,261评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,206评论 2 352

推荐阅读更多精彩内容