P-Linux 发表于 2010-09-12 16:18

利用临时表清除数据库重复数据

上周遇到一个问题,开发忘了告诉DBA需要唯一索引,导致线上一个库出现了大量重复数据,需要立即清除,重复数据只保留一条,于是采用了临时表的方案。

首先查看重复数据的数量:

SELECTc1,c2 FROM tbl GROUP BY c1,c2 HAVING count(ID)> 1
然后创建一张临时表,把上述结果存下来,这就是存在重复的数据各选出一条:

CREATE TABLE tbl_tmp_1
SELECT * FROM tbl GROUP BY c1,c2 HAVING count(ID)> 1
然后通过上述临时表与原表关联,获取全部存在重复的数据:

CREATE TABLE tbl_tmp_2
SELECT b.*
FROM tbl_tmp_1 a, tbl b
WHERE a.c1 = b.c1
AND a.c2D = b.c2;
验证一下有没有选错,即有没有不重复的数据被选出来了:

SELECT *
FROM tbl_tmp_2
GROUP BY c1, c2
HAVING count(*) = 1;
SELECT b.*
FROM tbl_tmp_2 a, rbl b
WHERE a.c1= b.c2
AND a.c2= b.c2
AND a.id=b.id;
全量删除所有重复数据:

DELETE FROM
tbl, tbl_tmp_2 USING tbl
INNER JOIN tbl_tmp_2
ON tbl.id = tbl_tmp_2.id;
将原重复数据中的一条都插入数据库中:

INERT INTO tbl
SELECT * FROM tbl_tmp_1;
都做完就可以加上唯一索引了:

ALTER TABLE tbl
ADD UNIQUE uk_tbl_c1_c2 (`c1`,`c2`) ;

w_y_b 发表于 2011-02-14 14:22

很有用,参考下。
页: [1]
查看完整版本: 利用临时表清除数据库重复数据