查找表中重複項並刪除或去重

一、單個字段的操作

分組介紹:

  1. 查詢全部重複的數據:

  2. 刪除全部重複試題:

  3. 查詢表中多餘重複試題(根據depno來判斷,除了rowid最小的一個)

a. 第一種方法:

b. 第二種方法:

c. 補充第三種方法(根據評論區給的刪除總結出來的):

  1. 刪除表中多餘重複試題並且只留1條:

a. 第一種方法:

b. ☆第二種方法(與上面查詢的第二種方法對應,只是將select改爲delete):

c. 補充第三種方法(評論區推薦的一種方法):

二、多個字段的操作:

總結:

最近在做題庫系統,由於在題庫中添加了重複的試題,所以需要查詢出重複的試題,並且刪除掉重複的試題只保留其中1條,以保證考試的時候抽不到重複的題。

首先寫了一個小的例子:

一、單個字段的操作
這是數據庫中的表:

分組介紹:

Select 重複字段 From 表 Group By 重複字段 Having Count(*)>1
查看是否有重複的數據:

GROUP BY <列名序列>

HAVING <組條件表達式>

查詢出:根據dname分組,同時滿足having字句中組條件表達式(重複次數大於1)的那些組

count(*)與count(1) 其實沒有什麼差別,用哪個都可以

count(*)與count(列名)的區別:

count(*)將返回表格中所有存在的行的總數包括值爲null的行,然而count(列名)將返回表格中除去null以外的所有行的總數(有默認值的列也會被計入)

  1. 查詢全部重複的數據:

Select * From 表 Where 重複字段 In (Select 重複字段 From 表 Group By 重複字段 Having Count(*)>1)
2. 刪除全部重複試題:
將上面的查詢select改爲delete(這樣會出錯的)

DELETE
FROM
dept
WHERE
dname IN (
SELECT
dname
FROM
dept
GROUP BY
dname
HAVING
count(1) > 1
)
會出現如下錯誤:[Err] 1093 - You can’t specify target table ‘dept’ for update in FROM clause

原因是:更新這個表的同時又查詢了這個表,查詢這個表的同時又去更新了這個表,可以理解爲死鎖。mysql不支持這種更新查詢同一張表的操作

解決辦法:把要更新的幾列數據查詢出來做爲一個第三方表,然後篩選更新。

  1. 查詢表中多餘重複試題(根據depno來判斷,除了rowid最小的一個)
    a. 第一種方法:

SELECT
*
FROM
dept
WHERE
dname IN (
SELECT
dname
FROM
dept
GROUP BY
dname
HAVING
COUNT(1) > 1
)
AND deptno NOT IN (
SELECT
MIN(deptno)
FROM
dept
GROUP BY
dname
HAVING
COUNT(1) > 1
)
上面這種寫法正確,但是查詢的速度太慢,可以試一下下面這種方法:

b. 第二種方法:
☆根據dname分組,查找出deptno最小的。然後再查找deptno不包含剛纔查出來的。這樣就查詢出了所有的重複數據(除了deptno最小的那行)

SELECT *
FROM
dept
WHERE
deptno NOT IN (
SELECT
dt.minno
FROM
(
SELECT
MIN(deptno) AS minno
FROM
dept
GROUP BY
dname
) dt
)
c. 補充第三種方法(根據評論區給的刪除總結出來的):
SELECT
*
FROM
table_name AS ta
WHERE
ta.唯一鍵 <> ( SELECT max( tb.唯一鍵 ) FROM table_name AS tb WHERE ta.判斷重複的列 = tb.判斷重複的列 );

  1. 刪除表中多餘重複試題並且只留1條:
    a. 第一種方法:
    DELETE
    FROM
    dept
    WHERE
    dname IN (
    SELECT
    t.dname
    FROM
    (
    SELECT
    dname
    FROM
    dept
    GROUP BY
    dname
    HAVING
    count(1) > 1
    ) t
    )
    AND deptno NOT IN (
    SELECT
    dt.mindeptno
    FROM
    (
    SELECT
    min(deptno) AS mindeptno
    FROM
    dept
    GROUP BY
    dname
    HAVING
    count(1) > 1
    ) dt
    )
    b. ☆第二種方法(與上面查詢的第二種方法對應,只是將select改爲delete):
    DELETE
    FROM
    dept
    WHERE
    deptno NOT IN (
    SELECT
    dt.minno
    FROM
    (
    SELECT
    MIN(deptno) AS minno
    FROM
    dept
    GROUP BY
    dname
    ) dt
    )
    c. 補充第三種方法(評論區推薦的一種方法):
    DELETE
    FROM
    table_name AS ta
    WHERE
    ta.唯一鍵 <> (
    SELECT
    t.maxid
    FROM
    ( SELECT max( tb.唯一鍵 ) AS maxid FROM table_name AS tb WHERE ta.判斷重複的列 = tb.判斷重複的列 ) t
    );
    二、多個字段的操作:
    單個字段的如果會了,多個字段也非常簡單。就是將group by 的字段增加爲你想要的即可。

此處只寫一個,其他方法請仿照一個字段的寫即可。

DELETE
FROM
dept
WHERE
(dname, db_source) IN (
SELECT
t.dname,
t.db_source
FROM
(
SELECT
dname,
db_source
FROM
dept
GROUP BY
dname,
db_source
HAVING
count(1) > 1
) t
)
AND deptno NOT IN (
SELECT
dt.mindeptno
FROM
(
SELECT
min(deptno) AS mindeptno
FROM
dept
GROUP BY
dname,
db_source
HAVING
count(1) > 1
) dt
)
總結:
其實上面的方法還有很多需要優化的地方,如果數據量太大的話,執行起來很慢,可以考慮加優化一下:

在經常查詢的字段上加上索引
改爲你需要查詢出來的字段,不要全部查詢出來
小表驅動大表用IN,大表驅動小表用EXISTS。IN適合的情況是外表數據量小的情況,而不是外表數據大的情況,因爲IN會遍歷外表的全部數據,假設a表100條,b表10000條那麼遍歷次數就是100
10000次,而exists則是執行100次去判斷a表中的數據是否在b表中存在,它只執行了a.length次數。至於哪一個效率高是要看情況的,因爲in是在內存中比較的,而exists則是進行數據庫查詢操作的
————————————————
版權聲明:本文爲CSDN博主「千g」的原創文章,遵循CC 4.0 BY-SA版權協議,轉載請附上原文出處鏈接及本聲明。
原文鏈接:https://blog.csdn.net/n950814abc/article/details/82284838

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章