免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 3131 | 回复: 13
打印 上一主题 下一主题

[文本处理] [求助]一组数据整理办法 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-04-16 10:40 |只看该作者 |倒序浏览
本帖最后由 cai6642113 于 2013-04-19 11:36 编辑

20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
24,13032256323,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0


求助一组数据整理办法,上为部分数据

以红色字段为条件完全相同的为一组,分别计算黄色字段去重后的条数,以及蓝色字段数值相加



回复 4# 关阴月飞


多谢大神,受教了,如果我还有个文件B,要在最后输出的$3与n 之间再加一个B文件中的一列字段,只要$1,$2 完全相同就插入文件B的$3到输出的结果的$4,应该怎么做啊


文件B的内容
898 0762  12345
220 022    54321
898 0898   45678
输出的结果
898 0762  40 12345 2

220 022  42 54321 2

898 0898  12 45678 2
     

论坛徽章:
93
2015年辞旧岁徽章
日期:2019-10-10 10:51:15CU大牛徽章
日期:2014-02-21 14:21:56CU十二周年纪念徽章
日期:2020-10-15 16:55:55CU大牛徽章
日期:2014-02-21 14:22:07羊年新春福章
日期:2019-10-10 10:51:39CU大牛徽章
日期:2019-10-10 10:55:38季节之章:春
日期:2020-10-15 16:57:40ChinaUnix元老
日期:2019-10-10 10:54:42季节之章:冬
日期:2019-10-10 10:57:17CU大牛徽章
日期:2014-02-21 14:22:52CU大牛徽章
日期:2014-03-13 10:40:30CU大牛徽章
日期:2014-02-21 14:23:15
2 [报告]
发表于 2013-04-16 11:33 |只看该作者
你目前做到哪里,有啥问题可以发出来,大家讨论讨论。
如果没有头绪,建议用 awk 试试。

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
3 [报告]
发表于 2013-04-16 12:10 |只看该作者
建议多贴点数据,然后举个例子,期望得到何种结果

论坛徽章:
39
辰龙
日期:2013-08-21 15:45:192015亚冠之广州富力
日期:2015-05-12 16:34:52亥猪
日期:2015-03-03 17:22:00申猴
日期:2015-03-03 17:21:37未羊
日期:2014-10-10 13:45:41戌狗
日期:2014-06-17 09:53:29巨蟹座
日期:2014-06-12 23:17:17双鱼座
日期:2014-06-10 12:42:44寅虎
日期:2014-06-09 12:52:172015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:0815-16赛季CBA联赛之吉林
日期:2017-06-24 16:43:52
4 [报告]
发表于 2013-04-16 12:54 |只看该作者
本帖最后由 关阴月飞 于 2013-04-16 12:58 编辑


回复 1# cai6642113

目测楼主是这个意思:
  1. awk -F, '{a[$7" "$8]+=$13;b[$7" "$8]=$2?b[$7" "$8]" "$2:$2}END{for(i in a)print i,a[i],b[i]}'  urfile |awk '{for(i=4;i<=NF;i++)if(!a[$i]++)n++;print $1,$2,$3,n;n=0}'
复制代码
  1. [root@localhost awktest]# cat file
  2. 20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
  3. 20,13016236391,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
  4. 21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
  5. 21,13016240089,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
  6. 24,13032256323,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0
  7. 24,13032256324,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0
  8. [root@localhost awktest]# awk -F, '{a[$7" "$8]+=$13;b[$7" "$8]=$2?b[$7" "$8]" "$2:$2}END{for(i in a)print i,a[i],b[i]}' file |awk '{for(i=4;i<=NF;i++)if(!a[$i]++)n++;print $1,$2,$3,n;n=0}'
  9. 898 0762 40 2
  10. 220 022 42 2
  11. 898 0898 12 2
复制代码

论坛徽章:
93
2015年辞旧岁徽章
日期:2019-10-10 10:51:15CU大牛徽章
日期:2014-02-21 14:21:56CU十二周年纪念徽章
日期:2020-10-15 16:55:55CU大牛徽章
日期:2014-02-21 14:22:07羊年新春福章
日期:2019-10-10 10:51:39CU大牛徽章
日期:2019-10-10 10:55:38季节之章:春
日期:2020-10-15 16:57:40ChinaUnix元老
日期:2019-10-10 10:54:42季节之章:冬
日期:2019-10-10 10:57:17CU大牛徽章
日期:2014-02-21 14:22:52CU大牛徽章
日期:2014-03-13 10:40:30CU大牛徽章
日期:2014-02-21 14:23:15
5 [报告]
发表于 2013-04-16 17:29 |只看该作者
我也觉得是这样的。
  1. [seesea2517@UC ~] $awk -F"," '{sum[$7,$8]+=$13; if(! ($7 SUBSEP $8 SUBSEP $2 in ar)) count[$7,$8]++; ar[$7,$8,$2]++} END{for(i in sum) print gensub(/[^0-9]/, "-", "x", i) " : " sum[i] " : " count[i]}' file
  2. 898-0762 : 40 : 1
  3. 220-022 : 42 : 2
  4. 898-0898 : 12 : 1

  5. [seesea2517@UC ~] $cat file
  6. 20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
  7. 21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
  8. 24,13032256323,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0
  9. 20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
  10. 21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
  11. 24,xxxxxxxxxxx,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0
复制代码

论坛徽章:
60
20周年集字徽章-20	
日期:2020-10-28 14:04:3015-16赛季CBA联赛之北京
日期:2016-07-06 15:42:0715-16赛季CBA联赛之同曦
日期:2016-06-12 10:38:0915-16赛季CBA联赛之佛山
日期:2016-05-27 11:54:56黄金圣斗士
日期:2015-12-02 11:44:35白银圣斗士
日期:2015-11-25 14:32:43白银圣斗士
日期:2015-11-23 12:53:352015亚冠之布里斯班狮吼
日期:2015-10-21 16:55:482015亚冠之首尔
日期:2015-09-01 16:46:052015亚冠之德黑兰石油
日期:2015-08-31 11:39:192015亚冠之萨济拖拉机
日期:2015-08-28 21:06:5315-16赛季CBA联赛之广东
日期:2016-07-12 14:58:53
6 [报告]
发表于 2013-04-16 17:49 |只看该作者
@seesea2517@关阴月飞  你们都是目测大神

论坛徽章:
93
2015年辞旧岁徽章
日期:2019-10-10 10:51:15CU大牛徽章
日期:2014-02-21 14:21:56CU十二周年纪念徽章
日期:2020-10-15 16:55:55CU大牛徽章
日期:2014-02-21 14:22:07羊年新春福章
日期:2019-10-10 10:51:39CU大牛徽章
日期:2019-10-10 10:55:38季节之章:春
日期:2020-10-15 16:57:40ChinaUnix元老
日期:2019-10-10 10:54:42季节之章:冬
日期:2019-10-10 10:57:17CU大牛徽章
日期:2014-02-21 14:22:52CU大牛徽章
日期:2014-03-13 10:40:30CU大牛徽章
日期:2014-02-21 14:23:15
7 [报告]
发表于 2013-04-16 17:54 |只看该作者
回复 6# reyleon


    其实lz表达的还算好了。

论坛徽章:
39
辰龙
日期:2013-08-21 15:45:192015亚冠之广州富力
日期:2015-05-12 16:34:52亥猪
日期:2015-03-03 17:22:00申猴
日期:2015-03-03 17:21:37未羊
日期:2014-10-10 13:45:41戌狗
日期:2014-06-17 09:53:29巨蟹座
日期:2014-06-12 23:17:17双鱼座
日期:2014-06-10 12:42:44寅虎
日期:2014-06-09 12:52:172015亚冠之卡尔希纳萨夫
日期:2015-05-24 15:24:35黄金圣斗士
日期:2015-12-02 17:25:0815-16赛季CBA联赛之吉林
日期:2017-06-24 16:43:52
8 [报告]
发表于 2013-04-16 18:15 |只看该作者
@reyleon   @seesea2517  同意LS观点,LZ表达很清楚了。

论坛徽章:
5
未羊
日期:2014-08-04 16:15:21天秤座
日期:2014-08-13 13:52:372015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:56:112015亚冠之浦和红钻
日期:2015-06-29 15:30:48
9 [报告]
发表于 2013-04-16 22:44 |只看该作者
晃死眼了。。。。。。

论坛徽章:
0
10 [报告]
发表于 2013-04-17 02:34 |只看该作者
20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
24,13032256323,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0
20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
24,13032256323,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0
20,13016236390,0,0,0,0,898,0898,9999999999,,2,0,6,0,0,0,0
21,13016240088,0,0,0,0,898,0762,9999999999,,2,0,20,0,0,0,0
24,13032256323,0,0,0,0,220,022,9999999999,,2,0,21,0,0,0,0

#!/bin/awk -f
BEGIN{
FS=",";SUBSEP="-"
}
{
array[$2,$7,$8]++
num[$7,$8]+=$13
}END{
for(i in array){
printf("The total of %s is\t %s\n",i,array)
}
for(ii in num){
printf("The num of %s is %s\n",ii,num[ii])}
}

The total of 13032256323-220-022 is      3
The total of 13016236390-898-0898 is     3
The total of 13016240088-898-0762 is     3
The num of 898-0898 is 18
The num of 220-022 is 63
The num of 898-0762 is 60
大晚上的就是睡不着爬起来翻翻

回复 1# cai6642113


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP