免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2371 | 回复: 6
打印 上一主题 下一主题

[文本处理] awk 根据文件某列去重并且统计该列频次 [复制链接]

论坛徽章:
1
15-16赛季CBA联赛之上海
日期:2016-11-10 11:34:28
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2016-09-19 11:51 |只看该作者 |倒序浏览
A文件
1 a
2 a
3 a
4 s
5 s
6 d

怎么从
A文件>>B文件

B文件
1 a 3
4 s 2
6 d 1

怎么从
A文件>>C文件

C文件
1 a 3
2 a 3
3 a 3
4 s 2
5 s 2
6 d 1

求大神帮忙修改
awk '{a[$2]++} END{for(i in a){print i,a[i] | "sort -r -k NF"}}'
我这个只能输出所求的那一列,前面的搞不出来
a 3
s 2
d 1
求前辈指点

论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
2 [报告]
发表于 2016-09-19 12:05 |只看该作者
本帖最后由 moperyblue 于 2016-09-20 14:53 编辑
  1. #A文件>>B文件
  2. awk '!a[$2]++{b[$1]=$2}END{for(i in b)print i,b[i],a[b[i]]}' A > B
  3. #A文件>>C文件
  4. awk 'NR==FNR{a[$2]++;next}{print $0,a[$2]}' A A > C
复制代码

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
3 [报告]
发表于 2016-09-19 12:11 |只看该作者
  1. perl -alne '{if(!exists($h{$F[-1]})){@{$h{$F[-1]}}{"S","C"}=($F[0],0);next}$h{$F[-1]}{"C"}++}END{print join($",$h{$_}{"S"},$_,$h{$_}{"C"}) for keys %h}' f
复制代码

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
4 [报告]
发表于 2016-09-19 12:35 |只看该作者
本帖最后由 sunzhiguolu 于 2016-09-19 12:40 编辑

perl -alne '{if($k ne $F[-1]){if($k){print join($",$_,scalar(@a)) for @a;@a=()}$k=$F[-1]}push(@a,$_)}END{print join($",$_,scalar(@a)) for @a}' f

论坛徽章:
0
5 [报告]
发表于 2016-09-19 17:44 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
1
15-16赛季CBA联赛之江苏
日期:2016-10-26 16:19:04
6 [报告]
发表于 2016-09-20 13:59 |只看该作者
A>>B
awk '!a[$2]{a[$2]=$0;b[$2]++}{b[$2]++}END{for(i in a)print a[i],b[i]-1}' file | sort

论坛徽章:
1
15-16赛季CBA联赛之江苏
日期:2016-10-26 16:19:04
7 [报告]
发表于 2016-09-20 14:04 |只看该作者
A>>C
awk 'NR==FNR{a[$2]++}NR!=FNR{print $0,a[$2]}'  file file
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP