免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 10182 | 回复: 10
打印 上一主题 下一主题

[文本处理] awk 根据某列去重求助。 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-10-14 11:46 |只看该作者 |倒序浏览
需要根据文件中的某列进行取重,只取最后一条数据。求助啊 各位大神们

100001 I
100001 U
100001 D
200001 I
300000 U
200001 D
300000 D
400000  I
400000  U

需要得到的结果为

100001 D
200001 D
300000 D
400000  U

自己写了一个无法实现

论坛徽章:
1
2015年迎新春徽章
日期:2015-03-04 09:58:11
2 [报告]
发表于 2014-10-14 11:58 |只看该作者
  1. [root@localhost ~]# awk '{a[$1]=$0}END{for(i in a)print a[i]}' file1 | sort
  2. 100001 D
  3. 200001 D
  4. 300000 D
  5. 400000  U
  6. [root@localhost ~]# cat file1
  7. 100001 I
  8. 100001 U
  9. 100001 D
  10. 200001 I
  11. 300000 U
  12. 200001 D
  13. 300000 D
  14. 400000  I
  15. 400000  U
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2014-10-14 11:59 |只看该作者
回复 1# 啵啵油菜

$ awk '{if(!a[$1])c[++t]=$1;a[$1]=$0}END{for(n=1;n<=t;n++)print a[c[n]]}' FILE
100001 D
200001 D
300000 D
400000  U

   

论坛徽章:
0
4 [报告]
发表于 2014-10-14 13:47 |只看该作者
求大神,给解释一下!回复 3# jason680


   

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
5 [报告]
发表于 2014-10-14 14:00 |只看该作者
回复 4# 啵啵油菜

方法:后来居上

use array in AWK and wirte over the value

refer more detail as below if you didn't know the AWK script

awk数组的学习心得
http://bbs.chinaunix.net/forum.p ... mp;fromuid=24785593

文本编辑的一点心得--awk篇
http://bbs.chinaunix.net/forum.p ... mp;fromuid=24785593

   

论坛徽章:
2
摩羯座
日期:2014-11-03 15:28:56卯兔
日期:2015-01-04 17:20:51
6 [报告]
发表于 2014-10-14 14:41 |只看该作者
回复 1# 啵啵油菜


    不考验顺序的话简单一点,只按第一列取最后一行:
  1. awk '{a[$1]=$0}END{for(i in a)print a[i]}' file
复制代码

论坛徽章:
6
羊年新春福章
日期:2015-03-03 17:16:28双子座
日期:2015-03-03 17:16:56巳蛇
日期:2015-03-03 17:17:2415-16赛季CBA联赛之福建
日期:2016-03-11 09:05:00黑曼巴
日期:2016-07-07 16:58:1215-16赛季CBA联赛之吉林
日期:2016-11-14 09:23:07
7 [报告]
发表于 2014-10-14 15:05 |只看该作者
  1. awk '{a[$1]=$0}END{len=asort(a);for(i=1;i<=len;i++)print a[i]}' test
  2. 100001 D
  3. 200001 D
  4. 300000 D
  5. 400000  U
复制代码

论坛徽章:
0
8 [报告]
发表于 2014-10-14 15:20 |只看该作者
谢谢了。回复 6# bulletmarquis


   

论坛徽章:
0
9 [报告]
发表于 2014-10-14 15:20 |只看该作者
谢谢 回复 7# jcdiy0601


   

论坛徽章:
3
申猴
日期:2014-10-14 20:12:06巨蟹座
日期:2014-10-20 11:39:452015年迎新春徽章
日期:2015-03-04 10:01:44
10 [报告]
发表于 2014-10-14 17:43 |只看该作者
假设数据在filename中,
# sort -n -k 1 -s filename |tac|sort -n -k 1 -s -u
结果:
100001 D
200001 D
300000 D
400000  U
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP