大佬教程收集整理的这篇文章主要介绍了使用SQL语句去掉重复的记录【两种方法】，大佬教程大佬觉得挺不错的，现在分享给大家，也给大家做个参考。
海量数据（百万以上），其中有些全部字段都相同，有些部分字段相同，怎样高效去除重复？
如果要删除手机(mobilePhonE)，电话(officePhonE)，邮件(email)同时都相同的数据，以前一直使用这条语句进行去重：
delete from 表 where id not in
(SELEct max(id) from 表 group by mobilePhone,email )
or
delete from 表 where id not in
(SELEct min(id) from 表 group by mobilePhone,email )
其中下面这条会稍快些。上面这条数据对于100万以内的数据效率还可以，重复数1/5的情况下几分钟到几十分钟不等，但是如果数据量达到300万以上，效率骤降，如果重复数据再多点的话，常常会几十小时跑不完，有时候会锁表跑一夜都跑不完。无奈只得重新寻找新的可行方法，今天终于有所收获：
//查询出唯一数据的ID,并把他们导入临时表tmp中
SELEct min(id) as mid into tmp from 表 group by mobilePhone,email
//查询出去重后的数据并插入finally表中
insert into finally SELEct (除ID以外的字段) from customers_1 where id in (SELEct mid from tmp)
效率对比：用delete方法对500万数据去重（1/2重复）约4小时。4小时，很长的时间。
用临时表插入对500万数据去重（1/2重复）不到10分钟。
按照某几个字段名称查找表中存在这几个字段的重复数据并按照插入的时间先后进行删除，条件取决于order by 和row_num。
注意：为提高效率如上两个方法都可以使用临时表， not in 中的表可以先提取临时表#tmp，
然后采用not exists来执行，为避免数量过大，可批量用Top控制删除量
总结
以上所述是小编给大家介绍的使用sql语句去掉重复的记录，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对菜鸟教程网站的支持！
以上是大佬教程为你收集整理的使用SQL语句去掉重复的记录【两种方法】全部内容，希望文章能够帮你解决使用SQL语句去掉重复的记录【两种方法】所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错，欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供，作为学习参考使用，版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ：384754419，请注明来意。