免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1787 | 回复: 8
打印 上一主题 下一主题

请教一个删除重复记录的问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2009-05-21 11:22 |只看该作者 |倒序浏览
有如下隔3行重复一次的数据,如何将重复记录删除,且保持原有顺序不变:
4
3
5
7
4
3
5
7
4
3
5
7
也就是转换为
4
3
5
7

论坛徽章:
11
金牛座
日期:2015-03-19 16:56:22数据库技术版块每日发帖之星
日期:2016-08-02 06:20:00数据库技术版块每日发帖之星
日期:2016-04-24 06:20:00数据库技术版块每日发帖之星
日期:2016-04-13 06:20:00IT运维版块每日发帖之星
日期:2016-04-13 06:20:00数据库技术版块每日发帖之星
日期:2016-02-03 06:20:00数据库技术版块每日发帖之星
日期:2015-08-06 06:20:00季节之章:春
日期:2015-03-27 15:54:57羊年新春福章
日期:2015-03-27 15:54:37戌狗
日期:2015-03-19 16:56:41数据库技术版块每日发帖之星
日期:2016-08-18 06:20:00
2 [报告]
发表于 2009-05-21 11:28 |只看该作者
awk '! a[$1]++'

论坛徽章:
0
3 [报告]
发表于 2009-05-21 11:58 |只看该作者

回复 #2 liaosnet 的帖子

谢谢!能讲下原理吗?

论坛徽章:
0
4 [报告]
发表于 2009-05-21 13:08 |只看该作者
原帖由 liaosnet 于 2009-5-21 11:28 发表
awk '! a[$1]++'

很强大!


大侠解释下是什么意思! orz

是否等价于 awk '1==a[$1]++' ?

[ 本帖最后由 meeslo 于 2009-5-21 13:10 编辑 ]

论坛徽章:
0
5 [报告]
发表于 2009-05-21 13:24 |只看该作者
想麻烦了,哈哈
cat 3.txt  | head -n 4

论坛徽章:
0
6 [报告]
发表于 2009-05-21 13:32 |只看该作者

回复 #1 xyzlsh 的帖子

sort -u 3.txt

论坛徽章:
0
7 [报告]
发表于 2009-05-21 16:23 |只看该作者
原帖由 liaosnet 于 2009-5-21 11:28 发表
awk '! a[$1]++'

你是个天才,太强了。

论坛徽章:
0
8 [报告]
发表于 2009-05-21 16:34 |只看该作者
这贴又重现了,为什么不站内搜一下呢。keyword : awk 去重

论坛徽章:
0
9 [报告]
发表于 2009-05-24 22:27 |只看该作者
原帖由 jiang_ocean 于 2009-5-21 16:34 发表
这贴又重现了,为什么不站内搜一下呢。keyword : awk 去重




搜索了下,理解如下:

echo  abc |awk 'a=1'得到
abc
echo  abc |awk '1',得到
abc
echo  abc |awk '0'  和 echo  abc |awk '' 则没有结果。

awk '!a[$1]++' 就很好理解了。:wink:
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP