答案:mysql去重可通过DISTINCT查询去重、GROUP BY保留分组首记录、自连接或窗口函数删除重复数据,或创建新表导入去重数据。具体选择取决于版本、主键情况与数据量,操作前需备份以防误删。

在MySQL中处理重复数据是日常维护数据库的常见需求。去重操作的核心目标是保留一条记录,删除其他重复项。以下是几种常用的MySQL去重方法和具体操作步骤,适用于不同场景。
1. 使用 DISTINCT 去除查询结果中的重复行
如果你只是想在查询时去除重复数据,DISTINCT 是最简单的方式。
示例:
假设有一张用户表 users,包含 name 和 email 字段,你想查出不重复的邮箱:
select DISTINCT email FROM users;
如果你想基于多个字段去重:
SELECT DISTINCT name, email FROM users;
2. 使用 GROUP BY 去重并保留一条记录
GROUP BY 可以按字段分组,结合聚合函数(如 MIN、MAX)来保留每组中的一条数据。
示例:
从 users 表中按 email 去重,并保留每组中 id 最小的记录:
SELECT MIN(id), name, email FROM users GROUP BY email;
这常用于查看去重后的结果,但不能直接删除重复数据。
3. 删除表中的重复记录(保留一条)
真正删除重复数据需要更谨慎的操作。常用方法是利用自连接或窗口函数。
适用于没有主键或主键无序的情况。
删除 users 表中 email 重复且 id 较大的记录(保留最小 id):
DELETE t1 FROM users t1 INNER JOIN users t2 WHERE t1.id > t2.id AND t1.email = t2.email;
方法二:使用 ROW_NUMBER() 窗口函数(MySQL 8.0+)
为每条记录按 email 分组编号,只保留编号为1的记录。
步骤:
- 创建临时表或使用 CTE 记录需要保留的 id
- 删除不在保留列表中的记录
WITH cte AS ( SELECT id, ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn FROM users ) DELETE FROM users WHERE id IN (SELECT id FROM cte WHERE rn > 1);
注意:MySQL 不支持直接在 DELETE 中引用同一张表的子查询,可先将结果放入临时表。
替代写法:
CREATE TEMPORARY TABLE temp_ids AS ( SELECT id FROM ( SELECT id, ROW_NUMBER() OVER (PARTITION BY email ORDER BY id) AS rn FROM users ) t WHERE rn > 1 );
DELETE FROM users WHERE id IN (SELECT id FROM temp_ids);
4. 创建新表并导入去重数据
如果原表数据量大或结构复杂,可以新建一张表,导入去重后的数据,再替换原表。
步骤:
- 创建新表结构:CREATE table users_new LIKE users;
- 插入去重数据:INSERT INTO users_new SELECT * FROM (SELECT * FROM users GROUP BY email) t;
- 重命名表:RENAME TABLE users TO users_backup, users_new TO users;
这种方式安全且高效,适合大批量数据处理。
基本上就这些。选择哪种方式取决于你的 MySQL 版本、是否有主键、数据量大小以及是否允许修改表结构。操作前务必备份数据,避免误删。