数据分析—学会用pandas玩转时间序列数据

【导语】时间系列数据在很多领域都是重要的结构化的数据形式。那什么叫做时间序列数据呢?时间序列数据(Time Series Data)就是在不同时间上收集到的数据,这类数据是按时间顺序收集到的,用于描述现象随时间变化的情况。比如一天内随着时间变化的温度序列。

如何引用时间序列取决于我们的具体业务,有三种常用时间序列如下:
1、时间戳,具体的时刻
2、固定的时间区间(1月或者整个2020年)
3、时间间隔(开始时间到结束时间)

Pandas为我们提供了强大的时间序列数据处理的方法,在学习之前我们简单回顾下python的日期时间,下面是在学习过程中,将时间相关的知识点系统的梳理出来,我们一起学习。

⼀. pyhon的日期和时间数据类型

Python标准库包含了日期和时间数据的数据类型,接下来我们使用datetime模块进行举例,如下:


1、date日期:存储年、月、日
 # 导入datetime模块
import datetime
date = datetime.date(2019, 9, 9)
print(date)
print(date.year)
print(date.month)
print(date.day)
2、time时间:存储为小时、分钟、秒、微妙
# 创建时间
import datetime
time = datetime.time(13, 14, 20)
print(time) #13:14:20 5 # 获取小时
print(time.hour) #13 7 # 获取分钟
print(time.minute) #14 9 # 获取秒
print(time.second) #20
3、datetime: 存储日期和时间
import datetime
datetime = datetime.datetime(2019, 9, 9, 13, 14, 20)
print(datetime) #2019-09-09 13:14:20 5 # 获取年
print(datetime.year) #2019 7 # 获取月
print(datetime.month)#9 9 # 获取日
print(datetime.day) #9 11 # 获取小时
print(datetime.hour) #13 13 # 获取分钟
print(datetime.minute)#14 15 # 获取秒
print(datetime.second)#20
4、 datetime.now():获取当前时间
#获取当前时间
print(datetime.now()) #2020-03-05 14:03:44.794096
5、timedelta:表示两个datetime对象的时间差
#比如2019-11-20和2019-12-20之间的timedelta即为30天
dt = datetime.datetime(2019,11,20)
dt1 = datetime.datetime(2019,12,20)
print(dt1-dt) # 30 days, 0:00:00
6、字符串与datetime互相转换
① datetime转化成字符串 (两种方法)
# 一种方法:str()
import datetime
datetime = datetime.datetime(2019, 9, 9, 13, 14, 20)
print(datetime) #2019-09-09 13:14:20
print(type(datetime)) #<class 'datetime.datetime'> 
datetime_str = str(datetime)
print(datetime_str) #2019-09-09 13:14:20 9 
print(type(datetime_str)) #<class 'str'>
# 另一种方法:strftime()
import datetime
date_time = datetime.datetime(2019, 9, 9, 13, 14, 20)
str_time = date_time.strftime('%m/%d/%Y %H:%M')
print(str_time) #09/09/2019 13:14 
print(type(str_time)) #<class 'str'>
② 字符串转化成datetime(两种方法)
# 一种方法:strptime()
import datetime
strp = datetime.datetime.strptime('Aug-23-19 20:13', '%b-%d-%y %H:%M')
print(strp) #2019-08-23 20:13:00
print(type(strp)) #<class 'datetime.datetime'>
#另一种方法:parse()
from dateutil.parser import parse
strp = parse('2019-08-23 20:13:00')
print(strp) # 2019-08-23 20:13:00
print(type(strp)) #<class 'datetime.datetime'>
!注意:dateutil.parser虽然是一个很有用但并不完美的工具。值得注意的是,它会将一些字符串识别为你并不想要的日期,比如'12',被解析成'2020-12-12 00:00:00'。

⼆. Pandas处理时间序列

应用场景:
1、轴索引(作可视化图)
2、DataFrame的列

1、将时间列转换为时间格式

大多数时候,我们是从csv文件中导入数据,此时Dataframe中对应的时间列是字符串的形式。运用pd.to_datetime(),可以将对应的列转换为Pandas中的datetime64类型,便于后期的处理。如下:

import pandas as pd
import numpy as np
dic = {'name':['xiaoming','lily','mark','mary','linda'],
      'birthday':['1995-07-22','1998-07-22','1999-03-12','1993-07-25','1996-09-22']}
df = pd.DataFrame(dic)
df.info()
df['birthday'] = pd.to_datetime(df['birthday'])
df.info()
2、Pandas的date_range()方法可以快速创建出⼀个日期范围
pd.date_range(start=None,end=None,periods=None,freq="D") 

参数介绍:

  • start:⽇期范围的开始;
  • end:⽇期范围的结束;
  • periods:固定⽇期的个数;
  • freq:⽇期偏移量,取值为string, 默认为'D',即:⼀天为⽇期偏移量

date_range()的使⽤⽅式

  • 使⽤start和end以及默认的freq参数创建
  • 使⽤start和end以及频率参数freq为10天创建
  • 使⽤start和periods以及默认的频率参数创建
import pandas as pd
date= pd.date_range(start='20190505',end='20190606')
print(date)
date= pd.date_range(start='20190505',end='20190606',freq="10D")
print(date)
date= pd.date_range(start='20190505',periods=10,freq="D")
print(date)  
3、时间序列的索引

时间序列中索引和Pandas普通的索引类似,可以直接[]或用loc[]取值

# 时间设置成数据的索引
import pandas as pd
import numpy as np
#使用pd.date_range()来创建从2019-01-01开始的时间索引
time_index = pd.date_range('2019-01-01', periods=400)#使用numpy的随机数创建365个随机整数
time_data = np.random.randint(100,size=400)#创建出以时间序列为索引的Series数据
date_time = pd.Series(data=time_data,index=time_index)
print(date_time)
#根据年进行索引
date_time['2020']
#使用时间戳进行切片处理
date_time.loc['2019-10-05':'2019-10-10']
4、提取出时间/日期的属性

在时序数据处理过程中,经常需要实现下述需求:

求某个日期对应的星期数(2019-06-05是第几周)
判断一个日期是周几(2020-01-01是周几)
判断某一日期是第几季度(2019-07-08属于哪个季度)

当数据中的时间列(本数据中为trade_date列)已经转换为datetime64格式时,仅需调用.dt接口,即可快速求得想要的结果,下表中列出了.dt接口所提供的常见属性:

import pandas as pd
dic = {'name':['xiaoming'],
      'birthday':['1995-07-22']}
df = pd.DataFrame(dic)
df['birthday'] = pd.to_datetime(df['birthday'])
# 一年中的第几天
df.birthday.dt.dayofweek[0] # 5
# 返回对应日期
 df.birthday.dt.date[0]    #datetime.date(1995, 7, 22)
# 返回周数
df.birthday.dt.weekofyear[0] # 29

希望本文的内容对大家的学习或者工作能带来一定的帮助,每天进步一点点,加油。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,463评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,868评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,213评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,666评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,759评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,725评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,716评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,484评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,928评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,233评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,393评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,073评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,718评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,308评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,538评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,338评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,260评论 2 352