可能有這種情況,某個表原來設計不周全,導致表裏面的數據重複,如何對重複的數據進行刪除呢?
可能有這樣兩種情況,第一種是表中只有某些字段一樣,第二種是兩行記錄完全一樣。
一、對於部分字段重複數據的刪除
1、刪除所有重複的數據
先來談談如何查詢重複的數據吧。
select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1
將上面的>號改爲=號就可以查詢出沒有重複的數據了。
想要刪除這些重複的數據,可以使用下面語句進行刪除
delete from 表名 a where 字段1,字段2 in
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)
上面的語句非常簡單,就是將查詢到的數據刪除掉。不過這種刪除執行的效率非常低,對於大數據量來說,可能會將數據庫吊死。所以建議先將查詢到的重複的數據插入到一個臨時表中,然後進行刪除,這樣,執行刪除的時候就不用再進行一次查詢了。如下:
CREATE TABLE 臨時表 AS
(select 字段1,字段2,count(*) from 表名 group by 字段1,字段2 having count(*) > 1)
上面這句話就是建立了臨時表,並將查詢到的數據插入其中。
下面就可以進行這樣的刪除操作了:
delete from 表名 a where 字段1,字段2 in (select 字段1,字段2 from 臨時表);
這種先建臨時表再進行刪除的操作要比直接用一條語句進行刪除要高效得多。
2、保留重複數據中的一條數據。
在oracle中,有個隱藏了自動rowid,裏面給每條記錄一個唯一的rowid,我們如果想保留最新的一條記錄,
我們就可以利用這個字段,保留重複數據中rowid最大的一條記錄就可以了。
下面是查詢重複數據的一個例子:
select a.rowid,a.* from 表名 a
where a.rowid !=
(
select max(b.rowid) from 表名 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
)
上面括號中的語句是查詢出重複數據中rowid最大的一條記錄。
而外面就是查詢出除了rowid最大之外的其他重複的數據了。
由此,我們要刪除重複數據,只保留最新的一條數據,就可以這樣寫了:
delete from 表名 a
where a.rowid !=
(
select max(b.rowid) from 表名 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
)
上面語句的執行效率是很低的,可以考慮建立臨時表,將需要判斷重複的字段、rowid插入臨時表中,然後刪除的時候在進行比較。
create table 臨時表 as
select a.字段1,a.字段2,MAX(a.ROWID) dataid from 正式表 a GROUP BY a.字段1,a.字段2;
delete from 表名 a
where a.rowid !=
(
select b.dataid from 臨時表 b
where a.字段1 = b.字段1 and
a.字段2 = b.字段2
);
commit;