MySQL学习笔记-删除重复数据只保留一条

有这样一张表,表数据及结果如下:

可以看出,school_name的字段值有重复数据(Abraham Lincoln High School 和Agoura High School分别出现两次),那么如何删除这两条数据,从而只让这两个数值出现一次呢?

//删除重复记录,保存Id最小的一条
delete FROM `test` WHERE `school_name` 
in 
(SELECT `school_name`
FROM `test` 
GROUP BY `school_name` 
HAVING COUNT( * ) >1) and school_id 
not in 
(select min(school_id) from test group by school_id having count(* )>1)
//删除重复记录,保存Id最大的一条
delete FROM `test` WHERE `school_name` 
in 
(SELECT `school_name`
FROM `test` 
GROUP BY `school_name` 
HAVING COUNT( * ) >1) and school_id 
not in 
(select max(school_id) from test group by school_id having count(* )>1)

一.单个字段的操作

Select 重复字段 From 表 Group By 重复字段 Having Count(*)>1

查看是否有重复的数据:

GROUP BY <列名序列>

HAVING <组条件表达式>

查询出:根据dname分组,同时满足having字句中组条件表达式(重复次数大于1)的那些组

count(*)与count(1) 其实没有什么差别,用哪个都可以
count(*) 与 count(列名)的区别:
count(*)将返回表格中所有存在的行的总数包括值为null的行,然而count(列名)将返回表格中除去null以外的所有行的总数(有默认值的列也会被计入)

查询全部重复的数据:

Select * From 表 Where 重复字段 
In 
(Select 重复字段 From 表 Group By 重复字段 Having Count(*)>1)

二.删除全部重复数据:

将上面的查询select改为delete(这样会出错的)

DELETE
FROM
    dept
WHERE
    dname IN (
        SELECT
            dname
        FROM
            dept
        GROUP BY
            dname
        HAVING
            count(1) > 1
    )

会出现如下错误:[Err] 1093 - You can't specify target table 'dept' for update in FROM clause

原因是:更新这个表的同时又查询了这个表,查询这个表的同时又去更新了这个表,可以理解为死锁。

mysql不支持这种更新查询同一张表的操作

解决办法:把要更新的几列数据查询出来做为一个第三方表,然后筛选更新。

DELETE
FROM
    dept
WHERE
    dname IN (
          SELECT
              t.dname
              FROM
                (
        SELECT
            dname
        FROM
            dept
        GROUP BY
            dname
        HAVING
            count(1) > 1
    ) t
)

三.查询表中多余重复数据

根据depno来判断,除了rowid最小的一个

方法一

SELECT
    *
FROM
    dept
WHERE
    dname IN (
        SELECT
            dname
        FROM
            dept
        GROUP BY
            dname
        HAVING
            COUNT(1) > 1
    )
AND deptno NOT IN (
    SELECT
        MIN(deptno)
    FROM
        dept
    GROUP BY
        dname
    HAVING
        COUNT(1) > 1
)

这种写法正确,但是查询的速度太慢,可以试一下方法二

方法二

根据dname分组,查找出deptno最小的;然后再查找deptno不包含刚才查出来的,这样就查询出了所有的重复数据(除了deptno最小的那行)

SELECT *
FROM
    dept
WHERE
    deptno NOT IN (
        SELECT
            dt.minno
        FROM
            (
                SELECT
                    MIN(deptno) AS minno
                FROM
                    dept
                GROUP BY
                    dname
            ) dt
    )

第三种方法

SELECT
    * 
FROM
    table_name AS ta 
WHERE
    ta.唯一键 <> ( SELECT max( tb.唯一键 ) FROM table_name AS tb WHERE ta.判断重复的列 = tb.判断重复的列 );


四.删除重复数据只保留一条

第一种方法:

DELETE
FROM
    dept
WHERE
    dname IN (
        SELECT
            t.dname
        FROM
            (
                SELECT
                    dname
                FROM
                    dept
                GROUP BY
                    dname
                HAVING
                    count(1) > 1
            ) t
    )
AND deptno NOT IN (
SELECT
    dt.mindeptno
FROM
    (
        SELECT
            min(deptno) AS mindeptno
        FROM
            dept
        GROUP BY
            dname
        HAVING
            count(1) > 1
    ) dt
)

第二种方法

与上面查询的第二种方法对应,只是将select改为delete

DELETE
FROM
    dept
WHERE
    deptno NOT IN (
        SELECT
            dt.minno
        FROM
            (
                SELECT
                    MIN(deptno) AS minno
                FROM
                    dept
                GROUP BY
                    dname
            ) dt
    )

第三种方法

DELETE 
FROM
    table_name AS ta 
WHERE
    ta.唯一键 <> (
SELECT
    t.maxid 
FROM
( 
SELECT max( tb.唯一键 ) AS maxid FROM table_name AS tb WHERE ta.判断重复的列 = tb.判断重复的列 )
 t )

五.多个字段的操作(补充)

和单个字段相比,多个字段就是将group by 的字段增加为你想要的即可

DELETE
FROM
    dept
WHERE
    (dname, db_source) IN (
        SELECT
            t.dname,
            t.db_source
        FROM
            (
                SELECT
                    dname,
                    db_source
                FROM
                    dept
                GROUP BY
                    dname,
                    db_source
                HAVING
                    count(1) > 1
            ) t
    )
AND deptno NOT IN (
    SELECT
        dt.mindeptno
    FROM
        (
            SELECT
                min(deptno) AS mindeptno
            FROM
                dept
            GROUP BY
                dname,
                db_source
            HAVING
                count(1) > 1
        ) dt
)

六.小结

上面的方法还有很多需要优化的地方,数据量太大的话,执行起来很慢

简单优化:

  • 在经常查询的字段上加上索引
  • 将*改为你需要查询出来的字段,不要全部查询出来
  • 小表驱动大表用IN,大表驱动小表用EXISTS。

IN适合的情况是外表数据量小的情况,而不是外表数据大的情况.
因为IN会遍历外表的全部数据,假设a表100条,b表10000条那么遍历次数就是100*10000次,而exists则是执行100次去判断a表中的数据是否在b表中存在,它只执行了a.length次数。
至于哪一个效率高是要看情况的,因为in是在内存中比较的,而exists则是进行数据库查询操作的。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,172评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,346评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,788评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,299评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,409评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,467评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,476评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,262评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,699评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,994评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,167评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,827评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,499评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,149评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,387评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,028评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,055评论 2 352

推荐阅读更多精彩内容