免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 990 | 回复: 2
打印 上一主题 下一主题

[文本处理] 去除一行中相同的内容 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2018-08-03 09:07 |只看该作者 |倒序浏览


各位大神,去除重复行比较容易,但是如何去除一行中相同的内容:
例如 1.txt如下(文件共两列; tab分割; 第二列以;作为分隔符)

a GO:001;GO:002;GO:003;
b GO:001;GO:004;GO:007;GO:009;GO:004


生成的结果文件是(去除第二列中的重复内容):
a GO:001;GO:002;GO:003;
b GO:001;GO:004;GO:007;GO:009;


感激

论坛徽章:
25
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之上海
日期:2018-12-11 09:45:3219周年集字徽章-年
日期:2020-04-18 23:54:5215-16赛季CBA联赛之深圳
日期:2020-04-19 21:40:19黑曼巴
日期:2022-04-03 17:55:1315-16赛季CBA联赛之八一
日期:2018-07-03 16:56:46
2 [报告]
发表于 2018-08-03 09:36 |只看该作者
回复 1# SheIsTheOne


  1. awk '{b=split($2,a,";");for(i=1;i<=b;i++){c[a[i]]++;if(c[a[i]]==1){d=d?d";"a[i]:a[i]}};print $1,d;delete c;d=""}' file
复制代码

论坛徽章:
4
15-16赛季CBA联赛之青岛
日期:2018-07-09 14:17:2815-16赛季CBA联赛之八一
日期:2018-08-06 15:30:0515-16赛季CBA联赛之广东
日期:2018-08-09 09:11:2115-16赛季CBA联赛之佛山
日期:2019-02-14 09:26:31
3 [报告]
发表于 2018-08-03 10:00 |只看该作者
  1. awk -F'[ ;]' '{printf $1" ";for(i=2;i<=NF;i++){if(!a[$i]++&&$i){printf $i";"}}delete a;print ""}' 1.txt
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP