免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2923 | 回复: 5
打印 上一主题 下一主题

[文本处理] 如何将前两列重复的行只取第一行? [复制链接]

论坛徽章:
4
15-16赛季CBA联赛之青岛
日期:2018-07-09 14:17:2815-16赛季CBA联赛之八一
日期:2018-08-06 15:30:0515-16赛季CBA联赛之广东
日期:2018-08-09 09:11:2115-16赛季CBA联赛之佛山
日期:2019-02-14 09:26:31
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2018-05-08 16:02 |只看该作者 |倒序浏览
本帖最后由 christmas1102 于 2018-05-08 16:03 编辑

如数据一包含3列:序列1,序列2,分值。其中第二行和第三行及第五行和第四行的前两列相同。问题:如何将前两列重复的行只取第一行?
tscaffold1020 tscaffold4392 684
tscaffold1020 tscaffold6137 673
tscaffold1020 tscaffold6137 500
scaffold815433 tscaffold775 302
scaffold815433 tscaffold775 300
scaffold815433 tscaffold4316 298


如果 $1 $2 相同而$3 的数据不同,想把数据放到 $4 再有就继续放到 $5 $6 ... 请问awk如何实现?



论坛徽章:
8
CU十四周年纪念徽章
日期:2017-08-28 17:16:1915-16赛季CBA联赛之北控
日期:2018-03-29 11:39:0615-16赛季CBA联赛之上海
日期:2018-05-21 10:46:10技术图书徽章
日期:2018-09-03 13:54:18技术图书徽章
日期:2018-09-03 13:54:2815-16赛季CBA联赛之四川
日期:2020-10-15 09:21:4720周年集字徽章-20	
日期:2020-10-28 13:53:0220周年集字徽章-庆
日期:2020-10-28 14:09:12
2 [报告]
发表于 2018-05-08 16:10 |只看该作者
  1. awk '{a[$1,$2]=a[$1,$2]?a[$1,$2]" "$3:$0}END{for(i in a) print a[i]}' file
复制代码

论坛徽章:
25
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之上海
日期:2018-12-11 09:45:3219周年集字徽章-年
日期:2020-04-18 23:54:5215-16赛季CBA联赛之深圳
日期:2020-04-19 21:40:19黑曼巴
日期:2022-04-03 17:55:1315-16赛季CBA联赛之八一
日期:2018-07-03 16:56:46
3 [报告]
发表于 2018-05-08 16:41 |只看该作者
本帖最后由 wh7211 于 2018-05-08 17:16 编辑

回复 1# christmas1102


  1. awk '!a[$1" "$2]++{if(b&&c&&d){print b" "c" "d};b=$1;c=$2;d=$3;next}{d=d" "$3}END{print b" "c" "d}' file
复制代码

<<<awk4.0+
  1. awk '{a[$1" "$2]=a[$1" "$2]?NR"|"a[$1" "$2]" "$3:NR"|"$3}END{PROCINFO["sorted_in"]="@val_num_asc";for(i in a){gsub(".*\\|","",a[i]);print i,a[i]}}' file
复制代码

论坛徽章:
24
申猴
日期:2014-10-10 15:56:39射手座
日期:2014-10-10 15:57:18黑曼巴
日期:2018-05-14 11:05:122016科比退役纪念章
日期:2018-05-14 11:05:0715-16赛季CBA联赛之北控
日期:2018-05-14 11:05:0015-16赛季CBA联赛之江苏
日期:2017-02-27 18:11:0715-16赛季CBA联赛之上海
日期:2018-08-15 09:48:5415-16赛季CBA联赛之佛山
日期:2018-07-20 17:14:2315-16赛季CBA联赛之佛山
日期:2019-09-10 18:08:4615-16赛季CBA联赛之山西
日期:2020-03-26 09:40:5115-16赛季CBA联赛之佛山
日期:2020-05-08 09:03:54
4 [报告]
发表于 2018-05-08 17:01 |只看该作者
本帖最后由 chengchow 于 2018-05-08 17:05 编辑
  1. [root@init02 tmp]# awk '{a[$1" "$2]=a[$1" "$2]" "$3}END{for(i in a){print i,a[i]}}' aa.log
  2. scaffold815433 tscaffold4316  298
  3. scaffold815433 tscaffold775  302 300
  4. tscaffold1020 tscaffold6137  673 500
  5. tscaffold1020 tscaffold4392  684
复制代码

论坛徽章:
4
15-16赛季CBA联赛之青岛
日期:2018-07-09 14:17:2815-16赛季CBA联赛之八一
日期:2018-08-06 15:30:0515-16赛季CBA联赛之广东
日期:2018-08-09 09:11:2115-16赛季CBA联赛之佛山
日期:2019-02-14 09:26:31
5 [报告]
发表于 2018-05-08 20:02 |只看该作者
回复 3# wh7211

请问 b&&c&&d 是什么意思?有什么作用啊?

论坛徽章:
25
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之上海
日期:2018-12-11 09:45:3219周年集字徽章-年
日期:2020-04-18 23:54:5215-16赛季CBA联赛之深圳
日期:2020-04-19 21:40:19黑曼巴
日期:2022-04-03 17:55:1315-16赛季CBA联赛之八一
日期:2018-07-03 16:56:46
6 [报告]
发表于 2018-05-09 09:49 |只看该作者
回复 5# christmas1102


b为真且c为真且d为真,作用就是处理第1行的时候不会打印出1个空行
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP