免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12
最近访问板块 发新帖
楼主: viato
打印 上一主题 下一主题

[文本处理] 如何同时对两列去重合统计行数 [复制链接]

论坛徽章:
0
11 [报告]
发表于 2013-09-26 21:25 |只看该作者
回复 10# 关阴月飞

  1. 123 aa 11
  2. 123 aa 12
  3. 123 bb 14
  4. 456 aa 14
  5. 567 bb 15
  6. 567 cc 15
复制代码
如果改成这格式,分别对第2列,第3列去重,想得到的结果是
123 2 3
456 1 1
567 2 1

目前我要分开执行才可以,可以用一行显示上面的结果吗
awk '!a[$1,$2]++' ufile |awk '{a[$1]++}END{for(n in a) print n,a[n]}'
awk '!a[$1,$3]++' ufile |awk '{a[$1]++}END{for(n in a) print n,a[n]}'

论坛徽章:
0
12 [报告]
发表于 2013-09-26 21:51 |只看该作者
本帖最后由 viato 于 2013-09-27 09:19 编辑

这样可以实现,大家还有没有更简单的
  1. awk '{if(!a[$1,$2]++)b[$1]++;if(!c[$1,$3]++)d[$1]++}END{for(n in b) {print n,b[n],d[n]; sum1+=b[n];sum2+=d[n]} print "total",sum1,sum2}'
复制代码

论坛徽章:
39
辰龙
日期:2013-08-21 15:45:192015亚冠之广州富力
日期:2015-05-12 16:34:52亥猪
日期:2015-03-03 17:22:00申猴
日期:2015-03-03 17:21:37未羊
日期:2014-10-10 13:45:41戌狗
日期:2014-06-17 09:53:29巨蟹座
日期:2014-06-12 23:17:17双鱼座
日期:2014-06-10 12:42:44寅虎
日期:2014-06-09 12:52:172015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:0815-16赛季CBA联赛之吉林
日期:2017-06-24 16:43:52
13 [报告]
发表于 2013-09-26 22:06 |只看该作者
viato 发表于 2013-09-26 21:25
回复 10# 关阴月飞 如果改成这格式,分别对第2列,第3列去重,想得到的结果是
123 2 3
456 1 1
567 2 1


这里的结果是按什么规律得到的?

论坛徽章:
0
14 [报告]
发表于 2013-09-26 22:18 |只看该作者
回复 13# 关阴月飞


if(!a[$1,$2]++)b[$1]++  第1列和第2列去重
if(!c[$1,$3]++)d[$1]++  第1列和第3列去重

论坛徽章:
0
15 [报告]
发表于 2013-09-26 22:25 |只看该作者
本帖最后由 viato 于 2013-09-26 22:29 编辑

回复 13# 关阴月飞

  1. 123 aa 11
  2. 123 aa 12
  3. 123 bb 14
  4. 456 aa 14
  5. 567 bb 15
  6. 567 cc 15
复制代码
这样去重后就得到了呀,只不过是分开显示的结果,我是想把出现的次数放到一行
awk '!a[$1,$2]++' ufile |awk '{a[$1]++}END{for(n in a) print n,a[n]}'
第1列和第2列去重,就是123出现了2次,456出现了1次,567 出现了2次



awk '!a[$1,$3]++' ufile |awk '{a[$1]++}END{for(n in a) print n,a[n]}'
第1列和第3列去重,就是123出现了3次,456出现了1次,567 出现了1次

论坛徽章:
39
辰龙
日期:2013-08-21 15:45:192015亚冠之广州富力
日期:2015-05-12 16:34:52亥猪
日期:2015-03-03 17:22:00申猴
日期:2015-03-03 17:21:37未羊
日期:2014-10-10 13:45:41戌狗
日期:2014-06-17 09:53:29巨蟹座
日期:2014-06-12 23:17:17双鱼座
日期:2014-06-10 12:42:44寅虎
日期:2014-06-09 12:52:172015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:0815-16赛季CBA联赛之吉林
日期:2017-06-24 16:43:52
16 [报告]
发表于 2013-09-26 22:51 |只看该作者
本帖最后由 关阴月飞 于 2013-09-26 22:52 编辑

回复 15# viato

你12楼贴的思路就挺好呀,汇总部份可以简化一下:
  1. awk '!a[$1,$2]++{c[$1]++}!b[$1,$3]++{d[$1]++}END{for(n in c)print n,c[n],d[n];print "total",length(a),length(b)}'  file
复制代码

论坛徽章:
0
17 [报告]
发表于 2013-09-26 23:04 |只看该作者
回复 16# 关阴月飞


    惭愧,想了好久才搞出来,

论坛徽章:
36
摩羯座
日期:2013-09-23 16:37:312015年亚洲杯之沙特阿拉伯
日期:2015-04-14 09:10:172015亚冠之柏太阳神
日期:2015-06-25 08:48:212015亚冠之武里南联
日期:2015-07-28 09:01:082015亚冠之莱赫维亚
日期:2015-07-28 15:44:172015亚冠之柏斯波利斯
日期:2015-09-06 14:08:52白银圣斗士
日期:2015-11-25 17:06:2815-16赛季CBA联赛之吉林
日期:2015-12-09 16:59:072016猴年福章徽章
日期:2016-02-18 15:30:3415-16赛季CBA联赛之辽宁
日期:2016-04-14 09:29:04luobin
日期:2016-06-17 17:46:3615-16赛季CBA联赛之天津
日期:2016-08-16 14:11:01
18 [报告]
发表于 2013-09-27 09:32 |只看该作者
回复 8# WilliBhamlll
高手,我用你的这个代码得出的结果是4  5。

[root@dbserver ~]# cat a.txt
aa 11

cc 12

bb 14

aa 14

bb 15

cc 17
[root@dbserver ~]# awk '!a[$1]++{i++}!a[$2]++{j++}END{print i,j}' a.txt
4 5

   

论坛徽章:
50
15-16赛季CBA联赛之广夏
日期:2018-11-05 09:42:462015年亚冠纪念徽章
日期:2015-07-23 11:58:122015亚冠之广州富力
日期:2015-07-07 08:26:172015亚冠之塔什干棉农
日期:2015-06-29 09:08:072015年亚洲杯之伊朗
日期:2015-03-08 20:51:012015年迎新春徽章
日期:2015-03-04 09:58:11未羊
日期:2014-10-16 22:41:47处女座
日期:2014-10-16 15:33:33酉鸡
日期:2014-03-13 12:54:10巳蛇
日期:2014-03-10 14:39:052015亚冠之德黑兰石油
日期:2015-07-29 12:46:372015亚冠之德黑兰石油
日期:2015-08-07 12:54:11
19 [报告]
发表于 2013-09-27 09:41 |只看该作者
本帖最后由 WilliBhamlll 于 2013-09-27 09:41 编辑

回复 18# LikeLx
你的文件中有多个空行,去重后还会剩一个空行。
我写的也有点问题,改一下就好了。
  1. awk '!a[$1]++{i++}!b[$2]++{j++}END{print i,j}' file
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP