python DataFrame找出相同行,去重,求差集

#   ===========找出DataFrame之间的相同行========

(1)问题描述:

在两个DataFrame之间,想要找出相同的行。(类似于求集合之间的交集)

(2)执行命令:

import pandas as pd

same_df = pd.merge(df1, df2, on = ['col1', 'col2', 'col3'], how = 'inner')

(3)使用实例(以下数据都是模拟数据,非真实数据):

df1 =

    weather       add                time

1      台风  重庆市江北区  2018-11-20 00:14:59

2      大雾  重庆市南岸区  2018-11-20 00:44:41

3      暴雨  重庆市渝中区  2018-11-20 11:18:47

df2 =

     weather       add                time

2      大雾  重庆市南岸区  2018-11-20 00:44:41

3      暴雨  重庆市渝中区  2018-11-20 11:18:47

4               重庆市忠县      2018-11-20 21:56:51

same_df_1 = pd.merge(df1, df2)

same_df_1

  weather    add                time

0      大雾  重庆市南岸区  2018-11-20 00:44:41

1      暴雨  重庆市渝中区  2018-11-20 11:18:47

same_df_2 = pd.merge(df1, df2, on = ['weather',  'add',  'time'], how = 'inner')

  weather    add                time

0      大雾  重庆市南岸区  2018-11-20 00:44:41

1      暴雨  重庆市渝中区  2018-11-20 11:18:47

#  ========DataFrame内行去重=========

(1)问题描述:

如果DataFrame之间存在相同的行,想要去除里面的重复行

(2)执行命令:

import pandas as pd

df.drop_duplicates(subset = ['col1', 'col2'])

(3)使用实例(以下都是虚拟数据):

import pandas as pd

data1 = {

    "address":['北京','天津','山西','广东','重庆','天津','山西'],

    "preference_level": ['4','3.5','3','3.5','4.5','3.5','3']

}

df = pd.DataFrame(data1)


df2 = df.drop_duplicates(subset=['address','preference_level'])


# =====求DataFrame之间的差集=====

(1)问题描述:

第一种情况,当两个dataframe之间存在交集,且是包含与被包含之间的关系时;第二种情是两者不是包含关系,但是确实存在交集。当然第一种情况的使用方法也适用于第二种。在这两种情况下,如何从df1中删除df1与df2之间相同的元素,仅保留df1中独有的元素??

(2)使用命令:

针对第一种情况

import pandas as pd

df1.append(df2)

df1.append(df2)

df1 = df1.drop_duplicates(subset=['col1', 'col2'], keep=False)

针对第二种情况

df1.append(df2)

df1 = df1.drop_duplicates(subset=['col1', 'col2'], keep=False)

(3)使用实例(以下都是虚拟数据)


当df1和df2是一种包含关系时,仅使用一次append即可



(4)求解思路:

将df2的内容追加到df1中,如果df1完全包含df2中的内容,则只使用一次append即可,如果df1不完全包括df2中的内容,则需要使用两次append,这是为了保证在在使用drop_duplivates时能够删除df2的全部内容。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • pyspark.sql模块 模块上下文 Spark SQL和DataFrames的重要类: pyspark.sql...
    mpro阅读 9,505评论 0 13
  • 昨天决定要来见见世面的时候,开始对比时间和车次。 最终决定了,乘坐明天早上的飞机。今天就开始准备各种事情,虽然我面...
    芬儿的默默阅读 250评论 0 0
  • 最近想要多画点云️️️~ 还是木有草稿,直接上色!
    尘里微光阅读 447评论 4 7
  • 今天中午,我写完午写作业就开始给爸爸写信,我还给姐姐写信,给妈妈写信,在给爸爸写信的时候,我特别想爸爸;给姐姐...
    吴丙南阅读 256评论 0 0