《python3爬虫、数据清洗与可视化实战》第三章 用API爬取天气预报数据

3.1 注册免费API和阅读技术文档

3.2 获取API数据

import pandas as pd
df = pd.read_csv('china-city-list.csv')

for item in df['City_ID']:
    print(item)
  • 完成了城市编码的提取后,下一步就是调用接口获取数据,代码如下:
import requests
import time
import pandas as pd
df = pd.read_csv('china-city-list.csv')
for item in df['City_ID']:
    url = 'https://free-api.heweather.net/s6/weather/now?location=' +item+ '&key=488e57e359e846279b277c43befa4d7c'

    strhtml = requests.get(url)
    strhtml.encoding = 'utf8'
    time.sleep(1)
    print( strhtml.text)
  • requests库返回的数据可以编码成JSON格式的数据,代码如下:
strhtml,json()

3.3存储数据到MongoDB

  • MongoDB是一个基于发布式文件存储的数据库,由C++语言编写,旨在为Web提供可扩展的高性能数据存储解决方案。
  • 下面将数据存入MongoDB中,代码如下:
import requests
import pymongo
import pandas as pd
client = pymongo.MongoClient('localhost', 27017)
book_weather = client['weather']
sheet_weather = book_weather['sheet_weather_3']
df = pd.read_csv('china-city-list.csv')
for item in df['City_ID']:
    url = 'https://free-api.heweather.net/s6/weather/now?location=' +item+ '&key=e62719afde314cb9a130fc7cdbd7c324'
    strhtml = requests.get(url)
    strhtml.encoding = 'utf8'
    dic = strhtml.json()
    sheet_weather.insert_one(dic)

1. 建立链接

  • 输入以下代码,其中localhost是主机名,2017是端口号(默认情况下是这个参数)
client = pymongo.MongoClient('localhost', 27017)

2. 新建名为'weather'的数据库

book_weather=client['weather']

3. 新建名为'sheet_weather_3'的表

heet_weather = book_weather['sheet_weather_3']

4. 写入数据

sheet_weather.insert_one(dic)

3.4 MongoDB 数据库查询

  • 查询语法是sheet_weather.find(),其中sheet_weather代表weather数据库中的表格sheet_weather_3,查找键 HeWeather6.basic.location 值为北京的数据。
import pymongo
client = pymongo.MongoClient('localhost', 27017)
book_weather = client['weather']
sheet_weather = book_weather['sheet_weather_3']
for item in sheet_weather.find({'HeWeather6.basic.location':"北京"}):
    print(item)
  • 接下来查询天气小于30华氏度的城市,代码如下:
import pymongo
client = pymongo.MongoClient('localhost', 27017)
book_weather = client['weather']
sheet_weather = book_weather['sheet_weather_2']
for item in sheet_weather.find():
    tmp = item['HeWeather6'][0]['now']['tmp']
    sheet_weather.update_one({'_id':item['_id']},{'$set':{'HeWeather6.0.now.tmp':int(tmp)}})
for item in sheet_weather.find({'HeWeather6.0.now.tmp':{'$lt':30}}):
    print(item['HeWeather6'][0]['basic']['location'])
  • 查询三天里,天气最低温小于30摄氏度的城市名,代码如下:
import pymongo
client = pymongo.MongoClient('localhost', 27017)
book_weather = client['weather']
sheet_weather = book_weather['sheet_weather_1']
for item in sheet_weather.find():
    for i in range(3): # 因为数据需要3天的天气预报,因此要循环3次
        tmp = item['HeWeather6'][0]['daily_forecast'][i]['tmp_min']
        sheet_weather.update_one({'_id':item['_id']},{'$set':{'HeWeather6.0.daily_forecast.{}.tmp_min'.format(i):int(tmp)}})
for item in sheet_weather.find({'HeWeather6.0.daily_forecast.tmp_min':{'$lt':30}}):
    print(item['HeWeather6'][0]['basic']['location'])
  • 使用updata方法,将表中最低气温数据修改为数据值型,更新的数据用sheet_weather,其中update_one方法用于指定更新一条数据,这里的第一个参数是{'_id':item['_id']},表示要更新的查询条件,第二段参数:{'$set':{'HeWeather6.0.daily_forecast.{}.tmp_min'.format(i):int(tmp)},表示要更新的信息,set 是MongoDB中的一个修改器,用于指定一个键并更新键值,若键不存在则创立一个键。
  • 常用的修改器还有:
$inc,$unset,$push
  1. 修改器$inc,可以对文档某个值为数字型(只能为满足要求的数字)的键进行增减操作。
  2. 修改器$unset,用于删除键。
  3. 修改器$push,向文档的某个数组类型的键添加一个数组元素,不过滤重复的数据。添加的时候,若键存在,要求键值类型必须是数组;若键不存在,则创建数组类型的键。
  • 数据更新完毕后再用find方法查找照数据,代码如下:
for item in sheet_weather.find({'HeWeather6.0.daily_forecast.tmp_min':{'$lt':30}}):
    print(item['HeWeather6'][0]['basic']['location'])

其中,lt、lte、gt和gte,分别表示符号<、<=、>和>=。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,937评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,503评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,712评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,668评论 1 276
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,677评论 5 366
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,601评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,975评论 3 396
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,637评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,881评论 1 298
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,621评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,710评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,387评论 4 319
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,971评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,947评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,189评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 44,805评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,449评论 2 342

推荐阅读更多精彩内容