免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3771 | 回复: 4
打印 上一主题 下一主题

求救:如何去除文本文件中的重复记录!!急等!!! [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2008-08-01 08:35 |只看该作者 |倒序浏览
文件格式:
1234|sfklsfhsf
1234|vmdsvsj
35935|lvlsfjsg
42597|nvslg
42597|sgbnmvs
1415|snls
.....

第一列中有很多重复记录,现按第一列去除重复,对于第一列相同的记录,随便取一条即可

比如,上面的文件去除重复记录后:
1234|sfklsfhsf
35935|lvlsfjsg
42597|nvslg
1415|snls

文件比较大,有400万记录左右
如何用shell脚本来实现呢?

在线急等,谢谢!!!

论坛徽章:
0
2 [报告]
发表于 2008-08-01 08:39 |只看该作者
awk -F"|" '{a[$1]=$2}END{for(i in a)print i,a[i]}' taocb006

[[i] 本帖最后由 灿烂小猪 于 2008-8-1 08:40 编辑 [/i]]

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
3 [报告]
发表于 2008-08-01 08:42 |只看该作者
  1. awk -F\| '!a[$1]++' urfile
复制代码

有空请读置顶文章

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
4 [报告]
发表于 2008-08-01 08:49 |只看该作者

回复 #1 taocb006 的帖子

  1. $ sort -t \| -uk 1,1 urfile
复制代码

论坛徽章:
0
5 [报告]
发表于 2008-08-01 08:51 |只看该作者
原帖由 waker 于 2008-8-1 08:42 发表
awk -F\| '!a[$1]++' urfile
有空请读置顶文章



版主,请解释一下这句好么???

[ 本帖最后由 灿烂小猪 于 2008-8-1 13:45 编辑 ]
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP