pandas复习笔记

s4 = s4.drop('e')  # 删除索引为 e 的值
s4

s4.add(s3)#对应相加,无此项则设为NaN
s4.sub(s3)#对应相减,无此项则设为NaN
s4.mul(s3)#对应相乘,无此项则设为NaN
s4.div(s3)#Series 的除法运算是按照索引对应计算,如果索引不同则填充为 NaN(空值)。
s4.median()#求中位数
s4.sum()#求和
s4.max()#求最大值
s4.min()#求最小值
#通过 NumPy 数组创建 DataFrame
dates = pd.date_range('today',periods=6)
num_arr = np.random.randn(6,4)
columns = ['A','B','C','D']
df1 = pd.DataFrame(num_arr,index=dates,columns=columns)
df1
#查看 DataFrame 的数据类型
df2.dtypes

#预览 DataFrame 的前 5 行数据此方法对快速了解陌生数据集结构十分有用
df2.head()
#查看 DataFrame 的后 3 行数据
df2.tail(3)
#查看 DataFrame 的数值
df2.values
#查看 DataFrame 的统计数据
df2.describe()
#DataFrame 转置操作
df2.T
# 对 DataFrame 进行按列排序
df2.sort_values(by='age')  # 按 age 升序排列
#对 DataFrame 数据切片
df2[:3]#真是反人类啊,是横向的索引,又不能单独行
df2.age  # 等价于 df2['age']
#对 DataFrame 通过标签查询
df2[['age','animal']]
#对 DataFrame 通过位置查询
df2.iloc[1:3]
#DataFrame 副本拷贝
df3 = df2.copy()
df3
# 判断 DataFrame 元素是否为空
df3.isnull()  # 如果为空则返回为 True
#添加列数据
num = pd.Series([0, 1, 2, 3, 4, 5, 6, 7, 8, 9], index=df3.index)
df3['No.'] = num  # 添加以 'No.' 为列名的新数据列
df3
#DataFrame 求平均值操作
df3.mean()
#将字符串转化为小写字母| 将字符串转化为大写字母
string = pd.Series(['A', 'B', 'C', 'Aaba', 'Baca',
                    np.nan, 'CABA', 'dog', 'cat'])
print(string)
string.str.lower()
string.str.upper()
#对缺失值进行填充
df4 = df3.copy()
print(df4)
df4.fillna(value=3)
#删除存在缺失值的行
df5 = df3.copy()
print(df5)
df5.dropna(how='any')
df5.dropna(how='all')

#DataFrame 按指定列对齐
left = pd.DataFrame({'key': ['foo1', 'foo2'], 'one': [1, 2]})
right = pd.DataFrame({'key': ['foo2', 'foo3'], 'two': [4, 5]})

print(left)
print(right)

# 按照 key 列对齐连接,只存在 foo2 相同,所以最后变成一行
pd.merge(left, right, on='key')

#时间序列索引
dti = pd.date_range(start='2018-01-01', end='2018-12-31', freq='D')
s = pd.Series(np.random.rand(len(dti)), index=dti)
s
#统计s 中每一个周三对应值的和
# 周一从 0 开始
s[s.index.weekday == 2].sum()
#统计s中每个月值的平均值
s.resample('M').mean()

# 将 Series 中的时间进行转换(秒转分钟)
s = pd.date_range('today', periods=100, freq='S')

ts = pd.Series(np.random.randint(0, 500, len(s)), index=s)

ts.resample('Min').sum()#什么意思没搞明白

#UTC 世界时间标准
s = pd.date_range('today', periods=1, freq='D')  # 获取当前时间
ts = pd.Series(np.random.randn(len(s)), s)  # 随机数值
ts_utc = ts.tz_localize('UTC')  # 转换为 UTC 时间
ts_utc
ts_utc.tz_convert('Asia/Shanghai')#转换为上海所在时区

#不同时间表示方式的转换
rng = pd.date_range('1/1/2018', periods=5, freq='M')
ts = pd.Series(np.random.randn(len(rng)), index=rng)
print(ts)
ps = ts.to_period()
print(ps)
ps.to_timestamp()


#Series 多重索引
letters = ["A",'B','C']
numbers = list(range(10))

mi = pd.MultiIndex.from_product([letters,numbers])
s = pd.Series(np.random.rand(30),index=mi)
s

s.loc[:, [1, 3, 6]]# 查询索引为 1,3,6 的值

s.loc[pd.IndexSlice[:'B',5:]]#多重索引 Series 切片

#根据多重索引创建 DataFrame
frame = pd.DataFrame(np.arange(12).reshape(6,2),
                     index=[list('AAABBB'),list('123123')],
                     columns=['hello','shiyanlou'])
frame

#多重索引设置列名称
frame.index.names = ['first','second']
frame
#DataFrame 多重索引分组求和
frame.groupby('first').sum()
#DataFrame 行列名称转换
frame.stack()
#索引转换
frame.unstack()



#DataFrame 多重条件查询,查找 age<3 且为 cat 的全部数据
df[(df['animal'] == 'cat') & (df['age'] <3)]

#DataFrame 按关键字查询
df3[df3['animal'].isin(['cat','dog'])]

#DataFrame 按标签及列名查询
df.loc[df.index[[3,4,8]],['animal','age']]

#按照 age 降序,visits 升序排列
df.sort_values(by=['age','visits'],ascending=[False,True])

#DataFrame 多值替换
df['priority'].map({'yes':True,'no':False})

# DataFrame 打包求和
df4.groupby('animal').sum()

#使用列表拼接多个 DataFrame
temp_df1 = pd.DataFrame(np.random.randn(5, 4))  # 生成由随机数组成的 DataFrame 1
temp_df2 = pd.DataFrame(np.random.randn(5, 4))  # 生成由随机数组成的 DataFrame 2
temp_df3 = pd.DataFrame(np.random.randn(5, 4))  # 生成由随机数组成的 DataFrame 3

print(temp_df1)
print(temp_df2)
print(temp_df3)

pieces = [temp_df1,temp_df2,temp_df3]
pd.concat(pieces)

#找出 DataFrame 表中和最小的列
df = pd.DataFrame(np.random.random(size=(5,10)),columns=list('abcdefghij'))
print(df)
df.sum().idxmin()

#DataFrame 中每个元素减去每一行的平均值
df = pd.DataFrame(np.random.random(size=(5, 3)))
print(df)
df.sub(df.mean(axis=1),axis=0)

#DataFrame 分组,并得到每一组中最大三个数之和
df = pd.DataFrame({'A': list('aaabbcaabcccbbc'),
                   'B': [12, 345, 3, 1, 45, 14, 4, 52, 54, 23, 235, 21, 57, 3, 87]})
print(df)
df.groupby('A')['B'].nlargest(3).sum(level=0)

#用透视表来进行数据聚合
#透视表的创建
df = pd.DataFrame({'A': ['one', 'one', 'two', 'three'] * 3,
                   'B': ['A', 'B', 'C'] * 4,
                   'C': ['foo', 'foo', 'foo', 'bar', 'bar', 'bar'] * 2,
                   'D': np.random.randn(12),
                   'E': np.random.randn(12)})

print(df)

pd.pivot_table(df, index=['A', 'B'])

#透视表按指定行进行聚合
pd.pivot_table(df, values=['D'], index=['A', 'B'])

# 透视表聚合方式定义
pd.pivot_table(df, values=['D'], index=['A', 'B'], aggfunc=[np.sum, len])

#透视表利用额外列进行辅助分割
#D 列按照 A,B 列进行聚合时,若关心 C 列对 D 列的影响,可以加入 columns 值进行分析。
pd.pivot_table(df, values=['D'], index=['A', 'B'],
               columns=['C'], aggfunc=np.sum)

#透视表的缺省值处理
在透视表中由于不同的聚合方式,相应缺少的组合将为缺省值,可以加入 fill_value 对缺省值处理。

#信息区间划分
df = pd.DataFrame({'name': ['Alice', 'Bob', 'Candy', 'Dany', 'Ella',
                            'Frank', 'Grace', 'Jenny'], 'grades': [58, 83, 79, 65, 93, 45, 61, 88]})


def choice(x):
    if x > 60:
        return 1
    else:
        return 0


df.grades = pd.Series(map(lambda x: choice(x), df.grades))
df

#数据去重
#尝试将 A 列中连续重复的数据清除。
df = pd.DataFrame({'A': [1, 2, 2, 3, 4, 5, 5, 5, 6, 7, 7]})
df.loc[df['A'].shift() != df['A']]





最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,324评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,356评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,328评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,147评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,160评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,115评论 1 296
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,025评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,867评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,307评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,528评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,688评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,409评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,001评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,657评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,811评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,685评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,573评论 2 353

推荐阅读更多精彩内容