免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2586 | 回复: 10
打印 上一主题 下一主题

[文本处理] awk处理aws抓取出来的数据,相同列置为空 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2015-08-25 09:55 |只看该作者 |倒序浏览
本帖最后由 raingolee 于 2015-08-25 12:22 编辑

hi, 请教各位大哥一个aws处理文本的问题,有劳大家了,题目如下

原文件:
D2,H28,Reserved,Virginia,t2.micro,2,12.5
D2,H28,Reserved,Virginia,t2.small,1,12.583333333333334
D2,H28,OnDemand,Virginia,t2.micro,1,9.672

处理后的结果:
D2,H28,Reserved,Virginia,t2.micro,2,12.5
,,,,t2.small,1,12.583333333333334
,,OnDemand,Virginia,t2.micro,1,9.672

简单描述一下,就是判断从头开始如果列相同则制空。。。

麻烦了哦

ps: 这个原数据是我用python从aws上抓取出来了,能准确到每种instance在每个region下不同规格的价钱,有每小时的价钱,有包年的费用,大家需要的可以找我要

pps:最后的数据类似如下
D055200201;h1as;reserved;N. Virginia;270;t2.small;1;20
;;;;;c4.large;3;200
;;;;;m3.large;1;50
;;ondemand;N. Virginia;250;m3.2xlarge;1;100
;;;;;r3.large;3;150
D055400402;h3;reserved;N. Virginia;100;m3.large;1;50
;;;;;c4.large;1;50
;;ondemand;Tokyo;50;c4.large;1;50
;;ondemand;Singapore;50;c4.large;1;50

论坛徽章:
23
15-16赛季CBA联赛之吉林
日期:2017-12-21 16:39:27白羊座
日期:2014-10-27 11:14:37申猴
日期:2014-10-23 08:36:23金牛座
日期:2014-09-30 08:26:49午马
日期:2014-09-29 09:40:16射手座
日期:2014-11-25 08:56:112015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:49:0315-16赛季CBA联赛之山东
日期:2017-12-21 16:39:1915-16赛季CBA联赛之广东
日期:2016-01-19 13:33:372015亚冠之山东鲁能
日期:2015-10-13 09:39:062015亚冠之西悉尼流浪者
日期:2015-09-21 08:27:57
4 [报告]
发表于 2015-08-25 13:27 |只看该作者
回复 1# raingolee
  1. awk 'BEGIN{FS=OFS=","}{if(s!=$1){for(i=1;i<=NF;i++)a[i]=$i;s=$1}else{for(i=1;i<=NF;i++)if(a[i]!=$i)break;else $i=""}}1' file
复制代码

论坛徽章:
7
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:57:092015小元宵徽章
日期:2015-03-06 15:58:18程序设计版块每日发帖之星
日期:2015-08-09 06:20:00每日论坛发贴之星
日期:2015-08-09 06:20:00程序设计版块每日发帖之星
日期:2015-08-22 06:20:00程序设计版块每日发帖之星
日期:2015-08-27 06:20:00
6 [报告]
发表于 2015-08-25 14:44 |只看该作者
回复 4# ly5066113
开始也是这么想的,但是没有大神写的怎么好。
不过我测试数据里随便复制以几行就不行了:

D2,H28,Reserved,Virginia,t2.micro,2,12.5
D2,H28,Reserved,Virginia,t2.small,1,12.583333333333334
D2,H28,OnDemand,Virginia,t2.micro,1,9.672
D2,H28,Reserved,Virginia,t2.small,1,12.583333333333334

结果出来时
D2,H28,Reserved,Virginia,t2.micro,2,12.5
,,,,t2.small,1,12.583333333333334
,,OnDemand,Virginia,t2.micro,1,9.672
,,,,t2.small,1,12.583333333333334


所以不确定楼主的数据时要跟第一行比还是上一行比。

论坛徽章:
7
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:57:092015小元宵徽章
日期:2015-03-06 15:58:18程序设计版块每日发帖之星
日期:2015-08-09 06:20:00每日论坛发贴之星
日期:2015-08-09 06:20:00程序设计版块每日发帖之星
日期:2015-08-22 06:20:00程序设计版块每日发帖之星
日期:2015-08-27 06:20:00
2 [报告]
发表于 2015-08-25 10:59 |只看该作者
2个小问题啊:
1. 是不是比到不一样的就不比后面的列了?
2. 是只和第一行比吗?

论坛徽章:
0
3 [报告]
发表于 2015-08-25 12:20 |只看该作者
回复 2# tuyajie


【1】不一定是只比第一行,第一列其实是一个key,

【2】对,遇到不同的地方后面就不用管了
   

论坛徽章:
0
5 [报告]
发表于 2015-08-25 14:31 |只看该作者
回复 4# ly5066113


哇哇哇, 亲测可以,感谢么么哒
   

论坛徽章:
0
7 [报告]
发表于 2015-08-25 15:22 |只看该作者
回复 6# tuyajie


额,感谢感谢,能实现就好,可以贴出来大家学习一下

其实没有所谓的参照第几个排序,我后续添加到我的原文上的效果了

论坛徽章:
1
15-16赛季CBA联赛之佛山
日期:2016-04-20 15:50:45
8 [报告]
发表于 2015-08-26 18:17 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
0
9 [报告]
发表于 2015-08-31 12:08 |只看该作者
回复 8# cwd0204


恩,我有好几个抓去的脚本,有统计每种类型instance 每个月花多少钱,有统计某个region下面,有多少个instance,每个instance的详细信息,你需要哪个呢

论坛徽章:
1
15-16赛季CBA联赛之佛山
日期:2016-04-20 15:50:45
10 [报告]
发表于 2015-09-08 14:16 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP