一、Python数据分析之Pandas学习

一、什么是Pandas?

pandas是基于NumPy的一种工具,该工具是为了解决数据分析任务而创建的。Pandas纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法,是python的一个数据分析包。
Pandas模块具有高性能、高效率和高水平,使之成为数据分析最有效的库。

二、Pandas的数据结构

pandas的数据结构中,常用的有Series和DataFrame两种

1、Series:一维数组,与Numpy中的一维array类似。二者与Python基本的数据结构List也很相近。Series如今能保存不同种数据类型,字符串、boolean值、数字等都能保存在Series中。

Series与List的区别是:List中的元素可以是不同的数据类型,而Series中则只允许存储有相同的数据类型,这样是为了更有效地的使用内存,提高运算效率。

2、Time- Series:以时间为索引的Series。
3、DataFrame:二维的表格型数据结构。很多功能与R中的data.frame类似。可以将DataFrame理解为Series的容器。
4、Panel :三维的数组,可以理解为DataFrame的容器。

三、Pandas的IO功能

Pandas的IO功能十分强大,可以兼容许多文本文件,例如:csv、xml、HTML、xls、xlsx等

1、导入数据集的语法为:
pd.read_excel(filename) #导入Excel格式文件中的数据
pd.read_excel(filename) #导入Excel格式文件中的数据

2、创建Excel表

import pandas as pd      #导入pandas模块,命名为pd

a = pd.DataFrame({'ID':[1, 2, 3],'User':['A', 'B', 'C']})    #创建ID列和User列
a = a.set_index('ID')   #以ID为索引
print(a)
a.to_excel('D:\pandas\pytest.xlsx')    #新建pytest.xlsx文件,将以上信息保持到该文件中
print('成功啦!')

运行结果:


1

2

3、查看数据框

data.info() #查看数据框(Data Frame)的索引、数据类型及内存信息

  • pytest.xlsx文件中的内容为:


    3
  • 查看数据框代码如下:
import pandas as pd

data = pd.read_excel('D:\pandas\pytest.xlsx')
data.info()
  • 代码执行结果:


    4

4、查看数据框行与列:

data.shape #查看数据框的行数和列数

import pandas as pd      

data = pd.read_excel('D:\pandas\pytest.xlsx')
print(data.shape)

#运行结果:(3, 2)

5、查看数据前n行、中间某几行或后n行:

data.head(n) #查看数据框的前n行
data.tail(n) #查看数据框的后n行
data.iloc[a:b,c:d] #查看第a+1行到b行,c+1列到d列的数据

  • D:\pandas\pytest2.xlsx 文件内容如下:


    5
import pandas as pd

data = pd.read_excel('D:\pandas\pytest2.xlsx')
print(data)
print("前2行的数据为:")
print(data.head(2))
print("后1行的数据为:")
print(data.tail(1))
print("2、3行与2、3列交叉的数据为:")
print(data.iloc[1:3, 1:3])
  • 运行结果:


    6

四、数据选取与清洗:

1、查看某一列的数据

data[col] #以数组Series的形式返回选取的列

  • 查看某一列的数据
import pandas as pd

data = pd.read_excel('D:\pandas\pytest2.xlsx')
print("查看Name列的数据")
print(data['Name'])
7
  • 查看某几列的数据(将想要查看的列名放在一个列表中)
import pandas as pd

data = pd.read_excel('D:\pandas\pytest2.xlsx')
print("查看Name列、age列的数据")
print(data[['Name', 'age']])
8

2、数据中非空值的处理

  • pytest3.xlsx文件中的内容为:


    9
  • 查看数据中的空值

data.isnull() #检查数据中空值出现的情况,并返回一个布尔值(True或False组成的列)

import pandas as pd

data = pd.read_excel('D:\pandas\pytest3.xlsx')
print(data.isnull())
10
  • 查看数据框中的非空值

data.notnull() #查看数据框中的非空值

import pandas as pd

data = pd.read_excel('D:\pandas\pytest3.xlsx')
print(data.notnull())
11
  • 移除数据框中的非空值

data.dropna(axis = 1) #移除数据框中包含空值的列

import pandas as pd

data = pd.read_excel('D:\pandas\pytest3.xlsx')
print(data.dropna())
12
  • 替换数据框中的非空值

data.fillna(x) #将数据框中的所有空值替换为x

import pandas as pd

data = pd.read_excel('D:\pandas\pytest3.xlsx')
print(data.fillna('变身'))
13

3、数据框中值的替换

  • pytest4.xlsx文件的内容如下:


    14
  • 替换值
import pandas as pd

data = pd.read_excel('D:\pandas\pytest4.xlsx')
data2 = data.replace('变身', '0')
data2.to_excel('D:\pandas\pytest4.xlsx')
print('ok')

#运行结果:ok
  • 代码运行后excel表格数据变为:


    15
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,125评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,293评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,054评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,077评论 1 291
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,096评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,062评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,988评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,817评论 0 273
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,266评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,486评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,646评论 1 347
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,375评论 5 342
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,974评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,621评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,796评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,642评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,538评论 2 352

推荐阅读更多精彩内容