之前因为有根据二维数据表的某一列去重后生成新数据表的需求,写了一个简单代码,具体参见数据预处理之一些需要去重的情况处理,具体效果都在那篇文章里了,如果需要逆向呢?就是将数据从合并的列变成包含重复项的列,有些像宽表变长表;比较直接的思路还是逐行遍历,遇到有合并数据的行就拆分。
下面是简要演示步骤:
1,创建一个简单的测试数据
2,进行合并去重
用数据预处理之一些需要去重的情况处理,代码:
ndf=pd.DataFrame(columns=df.columns) #根据df的列名建一个空表ndf
uids=set(df['uid'])
for u in uids:
one=df.loc[df['uid']==u] #获取所有uid等于u的行,之后只会保存一行
#在这里写if然后只保留一行,然后concat到ndf上,实现只保留一行
olst=list(one['name']) #或者用set
zero=one.iloc[[0]] #iloc[行号]是series iloc[[行号]]是dataframe
#zero['name']=str(olst)
if len(olst)>1: #等于1的就不用改了
zero['name']=str(olst) #or =''.join(olst)
ndf=pd.concat([ndf,zero]) #把选出来的zero加到ndf里
3,去重逆向
cdf=pd.DataFrame(columns=ndf.columns) #据df的列名建一个空表ndf
for i, r in ndf.iterrows():
if '[' in r['name']: #如果是需要拆分的行
nlst=r['name'].split(',') #拆分
for n in nlst:
k=n.strip("[]'").replace("'",'')
zero=ndf.loc[[i]]
zero['name']=k
cdf=pd.concat([cdf,zero])
else: #不需要拆分就直接加到后面
zero=ndf.loc[[i]]
cdf=pd.concat([cdf,zero])
cdf
里面比较有意思的点是 在去重的时候用的是one.iloc[[0]]
,因为iloc[行号]是series,而iloc[[行号]]是dataframe,在逆向的时候尝试用iloc会遇到索引i的bug,经过探索发现loc[[i]]可以用,于是写zero=ndf.loc[[i]]
,iloc和loc配合真的很有趣。