免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
123下一页
最近访问板块 发新帖
查看: 9009 | 回复: 22
打印 上一主题 下一主题

请教:如何去除重复字段 [复制链接]

论坛徽章:
15
2015年辞旧岁徽章
日期:2015-03-03 16:54:15双鱼座
日期:2015-01-15 17:29:44午马
日期:2015-01-06 17:06:51子鼠
日期:2014-11-24 10:11:13寅虎
日期:2014-08-18 07:10:55酉鸡
日期:2014-04-02 12:24:51双子座
日期:2014-04-02 12:19:44天秤座
日期:2014-03-17 11:43:36亥猪
日期:2014-03-13 08:13:51未羊
日期:2014-03-11 12:42:03白羊座
日期:2013-11-20 10:15:18CU大牛徽章
日期:2013-04-17 11:48:45
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2007-05-15 17:10 |只看该作者 |倒序浏览
abdc@sina.com,20070511
abeddfd@msn.com,20070432
cde@sina.com,20070201
cde@sina.com,20070427
erefaf@sina.com,20070214
erefaf@sina.com,20070304
adfdf@gmail.com,20070313

第一个字段有些有重复,希望列出唯一字段,有重复的,取时间最新的那行。第二字段也要一起输出。

[ 本帖最后由 rdcwayx 于 2007-5-15 17:11 编辑 ]

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
2 [报告]
发表于 2007-05-15 17:24 |只看该作者
sort -t, -k2r urfile |awk -F, '! a[$1]++'

论坛徽章:
0
3 [报告]
发表于 2007-05-15 17:43 |只看该作者
最后的那个“awk -F, '! a[$1]++' “”没有看懂能不能给解释一下?
谢谢

论坛徽章:
0
4 [报告]
发表于 2007-05-15 18:02 |只看该作者
在awk中实现hash,将去重字段作为key

论坛徽章:
15
2015年辞旧岁徽章
日期:2015-03-03 16:54:15双鱼座
日期:2015-01-15 17:29:44午马
日期:2015-01-06 17:06:51子鼠
日期:2014-11-24 10:11:13寅虎
日期:2014-08-18 07:10:55酉鸡
日期:2014-04-02 12:24:51双子座
日期:2014-04-02 12:19:44天秤座
日期:2014-03-17 11:43:36亥猪
日期:2014-03-13 08:13:51未羊
日期:2014-03-11 12:42:03白羊座
日期:2013-11-20 10:15:18CU大牛徽章
日期:2013-04-17 11:48:45
5 [报告]
发表于 2007-05-15 18:31 |只看该作者
谢谢

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
6 [报告]
发表于 2007-05-16 09:00 |只看该作者
原帖由 waker 于 2007-5-15 17:24 发表
sort -t, -k2r urfile |awk -F, '! a[$1]++'



怎么我在LINUX下执行不了?

论坛徽章:
0
7 [报告]
发表于 2007-05-16 09:11 |只看该作者
哥们,好歹贴个怎么个执行不了的信息啊。错误提示也没有?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
8 [报告]
发表于 2007-05-16 09:15 |只看该作者
原帖由 ivhb 于 2007-5-16 09:11 发表
哥们,好歹贴个怎么个执行不了的信息啊。错误提示也没有?

猜一下

  1. sort: open failed: urfile: No such file or directory
复制代码

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
9 [报告]
发表于 2007-05-16 09:23 |只看该作者
[root@fang-test bin]# sort -t,-k2r temp1 |awk -F,`! a[$1]++`
bash: a[]++: command not found

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
10 [报告]
发表于 2007-05-16 09:26 |只看该作者
比较一下` '
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP