免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 12102 | 回复: 18

如何删除重复行 [复制链接]

论坛徽章:
0
发表于 2004-12-28 09:17 |显示全部楼层
有文件:
aa  cc  dd ee
11 34  45 22
bb  cc dd ee
ff cc dd ee
....

如何将此文件中,第二,三列重复的行删除,只保留重复的一条记录?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
发表于 2004-12-28 10:08 |显示全部楼层

如何删除重复行

  1. awk '{if (a[$2]!=$2 && b[$3]!=$3) {a[$2]=$2;b[$3]=$3;c[$0]=$0}
  2. }END { for(i in c) print c[i]}'
复制代码

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
发表于 2004-12-28 10:22 |显示全部楼层

如何删除重复行

就是会被排序

论坛徽章:
0
发表于 2004-12-28 10:33 |显示全部楼层

如何删除重复行

sort -k2,3 |awk '{if(str!=$2$3){str=$2$3;print}}'

论坛徽章:
0
发表于 2004-12-28 10:57 |显示全部楼层
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
发表于 2004-12-28 11:43 |显示全部楼层

如何删除重复行

学习大家的,改一下
awk '{if (a[$2$3]!=$2$3) {a[$2$3]=$2$3;print}}'

论坛徽章:
0
发表于 2004-12-28 12:52 |显示全部楼层

如何删除重复行

[quote]原帖由 "tianci3982730"]sort -u -k2,3  文件[/quote 发表:

论坛徽章:
0
发表于 2004-12-29 11:46 |显示全部楼层

如何删除重复行

都是高手啊!

论坛徽章:
0
发表于 2004-12-29 16:00 |显示全部楼层

如何删除重复行

都是高手 学到了很多

论坛徽章:
0
发表于 2008-01-24 10:10 |显示全部楼层
cat test | uniq
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP