免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 4240 | 回复: 13
打印 上一主题 下一主题

[文本处理] 请问对文本中重复的字段计数应该如何处理?将计数的1,2,3在添加到该行最后 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-11-20 16:48 |只看该作者 |倒序浏览
本帖最后由 qooweds 于 2013-11-20 16:49 编辑

我有一个csv文件,第三个字段是ip
我想在每行的末尾添加一个字段,代表该ip出现的次数,
比如192.168.1.1在文中是第二次出现,行尾就加上2

文本内容类似为:
aa,bb,192.168.1.1,cc
dd,ee,192.168.1.2,ff
gg,hh,192.168.1.1,ii
jj,kk,192.168.1.3,ll

期待的结果为:
aa,bb,192.168.1.1,cc,1
dd,ee,192.168.1.2,ff,1
gg,hh,192.168.1.1,ii,2
jj,kk,192.168.1.3,ll,1

请问怎么处理好呢?
用sed还是awk好呢?

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
2 [报告]
发表于 2013-11-20 16:52 |只看该作者
果断用awk啦~
  1. [root@localhost ~]# awk -F, '{print $0","++a[$3]}' i
  2. aa,bb,192.168.1.1,cc,1
  3. dd,ee,192.168.1.2,ff,1
  4. gg,hh,192.168.1.1,ii,2
  5. jj,kk,192.168.1.3,ll,1
  6. [root@localhost ~]# cat i
  7. aa,bb,192.168.1.1,cc
  8. dd,ee,192.168.1.2,ff
  9. gg,hh,192.168.1.1,ii
  10. jj,kk,192.168.1.3,ll
  11. [root@localhost ~]#
复制代码

论坛徽章:
0
3 [报告]
发表于 2013-11-20 16:53 |只看该作者
我自己用awk写了下
cat test.csv | awk -F"," '{print $3","$1","$2","$4}' |sort |awk -F"," 'BEGIN{i=1}{y=x;x=$1;{if(x==y){i++;print $0","i}else{i=1;print $0","i}}}'

将ip放到第一列,然后sort,通过awk把计数打印到行尾,然后再用awk将ip打印的顺序换回去,貌似很复杂...

论坛徽章:
1
2015亚冠之吉达阿赫利
日期:2015-09-09 16:42:38
4 [报告]
发表于 2013-11-20 16:53 |只看该作者
回复 1# qooweds
  1. awk -F, '{c[$3]++;print $0","c[$3]}'
复制代码



   

论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
5 [报告]
发表于 2013-11-20 16:55 |只看该作者
  1. awk 'BEGIN{FS=OFS=","}{print $0,++a[$3]}' urfile
复制代码

论坛徽章:
0
6 [报告]
发表于 2013-11-20 16:57 |只看该作者
感谢大家!
懂了!
数组好方便

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
7 [报告]
发表于 2013-11-20 17:07 |只看该作者
  1. awk 'BEGIN{FS=OFS=","}{print $0,++a[$3]}'
复制代码

论坛徽章:
1
2015年迎新春徽章
日期:2015-03-04 09:58:11
8 [报告]
发表于 2013-11-20 17:08 |只看该作者
  1. awk -F, '{a[$3]++;print $0,a[$3]}' 1
复制代码

论坛徽章:
8
双子座
日期:2013-08-31 07:37:12金牛座
日期:2013-09-09 18:49:12处女座
日期:2013-09-23 11:43:14处女座
日期:2013-10-09 19:48:21狮子座
日期:2014-03-24 18:22:12丑牛
日期:2014-04-22 22:07:51申猴
日期:2014-06-12 21:54:13双鱼座
日期:2014-06-13 21:52:31
9 [报告]
发表于 2013-11-21 21:28 |只看该作者
来个perl的
  1. perl -F',' -lane 'print "$_,$h{$F[2]}" if ++$h{$F[2]}'
复制代码
回复 1# qooweds


   

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
10 [报告]
发表于 2013-11-21 21:45 |只看该作者
回复 9# kernel69
可以更短些:
  1. perl -F, -lane 'print $_.",".++$h{$F[2]}'
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP