免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 2672 | 回复: 19
打印 上一主题 下一主题

[文本处理] 怎样计算多个TSV文件中指定行字段的值的总和,并删除指定行,最后合并文件内容? [复制链接]

论坛徽章:
4
程序设计版块每日发帖之星
日期:2015-10-10 06:20:00每日论坛发贴之星
日期:2015-10-10 06:20:00程序设计版块每日发帖之星
日期:2015-10-11 06:20:00程序设计版块每日发帖之星
日期:2015-10-25 06:20:00
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2015-07-31 00:05 |只看该作者 |倒序浏览
初学shell,请教用shell怎样实现如下功能!谢谢!

操作文件对象是TSV文件。

例:
#cat abc_aa.TSV
a                wrqwrewq                aaeqwew1
b                wqeqwewq                aaeqwew2
c                wqeqwe                aaeqwew3
f                123456                aaeqwew4

#cat def_aa.TSV
d                wrqwrewq                 bbqeqwew5
e                rttuyirewq                bbeqwew6
f                tytyrqwre                bbeqwefef7
f                10000000000        bbeqwew8

#cat ghi_aa.TSV
g                wrwewqe                cceqwewq9
h                wewgfrgts                cceqwewq10
i                tyytuyyu                cceqwewq11
f                5000000000      cceqwewq12

要求实现:
取以上每个文件中的最后一行的数据的第二个字段的数值,然后相加计算出总和。
要求在每取出文件最后一条记录第二个字段的数值之后,并删除最后一行数据。
最后将所有去掉最后一行纪录的文件合并成一个文件,合并后的结果如下:
a                wrqwrewq                aaeqwew1
b                wqeqwewq                aaeqwew2
c                wqeqwe                aaeqwew3
d                wrqwrewq                 bbqeqwew5
e                rttuyirewq                bbeqwew6
f                tytyrqwre                bbeqwefef7
g                wrwewqe                cceqwewq9
h                wewgfrgts                cceqwewq10
i                tyytuyyu                cceqwewq11

论坛徽章:
54
2015亚冠之德黑兰石油
日期:2015-07-07 13:00:1615-16赛季CBA联赛之深圳
日期:2016-03-31 09:03:5415-16赛季CBA联赛之辽宁
日期:2016-05-09 20:38:15程序设计版块每日发帖之星
日期:2016-05-12 06:20:0015-16赛季CBA联赛之四川
日期:2016-05-13 15:19:4715-16赛季CBA联赛之福建
日期:2016-05-15 20:24:34每日论坛发贴之星
日期:2016-05-16 06:20:0015-16赛季CBA联赛之吉林
日期:2016-05-26 11:49:4715-16赛季CBA联赛之广东
日期:2016-05-26 13:49:18极客徽章
日期:2016-12-07 14:05:2315-16赛季CBA联赛之广夏
日期:2016-12-20 17:33:532017金鸡报晓
日期:2017-01-10 15:19:56
2 [报告]
发表于 2015-07-31 08:06 |只看该作者
本帖最后由 haooooaaa 于 2015-07-31 08:06 编辑
  1. awk 'FILENAME!=b&&b{split(f,t);d+=t[2];f=0}f{a[++c]=f}{f=$0;b=FILENAME}END{print d+$2;for(i=1;i<=length(a);i++){print a[i]>"new.txt"}}' a b c
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2015-07-31 08:43 |只看该作者
回复 1# robinhappiness

$ awk '{if(FNR!=1)print s;s=$0}' abc_aa.TSV def_aa.TSV ghi_aa.TSV
a                wrqwrewq                aaeqwew1
b                wqeqwewq                aaeqwew2
c                wqeqwe                aaeqwew3
d                wrqwrewq                 bbqeqwew5
e                rttuyirewq                bbeqwew6
f                tytyrqwre                bbeqwefef7
g                wrwewqe                cceqwewq9
h                wewgfrgts                cceqwewq10
i                tyytuyyu                cceqwewq11

   

论坛徽章:
95
程序设计版块每日发帖之星
日期:2015-09-05 06:20:00程序设计版块每日发帖之星
日期:2015-09-17 06:20:00程序设计版块每日发帖之星
日期:2015-09-18 06:20:002015亚冠之阿尔艾因
日期:2015-09-18 10:35:08月度论坛发贴之星
日期:2015-09-30 22:25:002015亚冠之阿尔沙巴布
日期:2015-10-03 08:57:39程序设计版块每日发帖之星
日期:2015-10-05 06:20:00每日论坛发贴之星
日期:2015-10-05 06:20:002015年亚冠纪念徽章
日期:2015-10-06 10:06:482015亚冠之塔什干棉农
日期:2015-10-19 19:43:35程序设计版块每日发帖之星
日期:2015-10-21 06:20:00每日论坛发贴之星
日期:2015-09-14 06:20:00
4 [报告]
发表于 2015-07-31 09:08 |只看该作者
本帖最后由 MMMIX 于 2015-07-31 09:14 编辑

回复 1# robinhappiness

  1. awk '{ if ($2 ~ /^[0-9]+$/) {t += $2} else {print} } END { print t }' *.TSV
复制代码
当然,若是最后一行之前的行其第二列也可能为数字,那么就需要如下的代码:

  1. awk '{ if (FNR != 1) print p; p = $0 } ENDFILE { split(p, a); t += a[2] } END { print t }' *.TSV
复制代码

论坛徽章:
4
程序设计版块每日发帖之星
日期:2015-10-10 06:20:00每日论坛发贴之星
日期:2015-10-10 06:20:00程序设计版块每日发帖之星
日期:2015-10-11 06:20:00程序设计版块每日发帖之星
日期:2015-10-25 06:20:00
5 [报告]
发表于 2015-07-31 09:08 |只看该作者
回复 2# haooooaaa


谢谢前辈!
非常抱歉,本人水平有限,能麻烦您解释一下这条命令的意思吗?

论坛徽章:
54
2015亚冠之德黑兰石油
日期:2015-07-07 13:00:1615-16赛季CBA联赛之深圳
日期:2016-03-31 09:03:5415-16赛季CBA联赛之辽宁
日期:2016-05-09 20:38:15程序设计版块每日发帖之星
日期:2016-05-12 06:20:0015-16赛季CBA联赛之四川
日期:2016-05-13 15:19:4715-16赛季CBA联赛之福建
日期:2016-05-15 20:24:34每日论坛发贴之星
日期:2016-05-16 06:20:0015-16赛季CBA联赛之吉林
日期:2016-05-26 11:49:4715-16赛季CBA联赛之广东
日期:2016-05-26 13:49:18极客徽章
日期:2016-12-07 14:05:2315-16赛季CBA联赛之广夏
日期:2016-12-20 17:33:532017金鸡报晓
日期:2017-01-10 15:19:56
6 [报告]
发表于 2015-07-31 09:11 |只看该作者
本帖最后由 haooooaaa 于 2015-07-31 09:12 编辑

回复 5# robinhappiness


    我这个有点2, 不好,

刚才参考  jason 的,

改了一下,

这样....
  1. awk 'FNR==1{d+=k}FNR!=1{print s>"new.txt"}{s=$0;k=$2}END{print d+$2}' a b c
复制代码

论坛徽章:
4
程序设计版块每日发帖之星
日期:2015-10-10 06:20:00每日论坛发贴之星
日期:2015-10-10 06:20:00程序设计版块每日发帖之星
日期:2015-10-11 06:20:00程序设计版块每日发帖之星
日期:2015-10-25 06:20:00
7 [报告]
发表于 2015-07-31 09:16 |只看该作者
回复 3# jason680


    谢谢!

论坛徽章:
0
8 [报告]
发表于 2015-07-31 09:30 |只看该作者
本帖最后由 tigerpower 于 2015-07-31 09:40 编辑
  1. perl -anlE 'if(eof){$t+=@F[1]}else{say}END{say STDERR $t}' *_aa.TSV > new.TSV
复制代码

论坛徽章:
4
程序设计版块每日发帖之星
日期:2015-10-10 06:20:00每日论坛发贴之星
日期:2015-10-10 06:20:00程序设计版块每日发帖之星
日期:2015-10-11 06:20:00程序设计版块每日发帖之星
日期:2015-10-25 06:20:00
9 [报告]
发表于 2015-07-31 09:40 |只看该作者
回复 4# MMMIX


    多谢了!

论坛徽章:
5
数据库技术版块每日发帖之星
日期:2015-08-01 06:20:00数据库技术版块每日发帖之星
日期:2015-08-02 06:20:00数据库技术版块每日发帖之星
日期:2016-01-11 06:20:00数据库技术版块每日发帖之星
日期:2016-01-22 06:20:00程序设计版块每日发帖之星
日期:2016-05-09 06:20:00
10 [报告]
发表于 2015-07-31 09:48 |只看该作者
本帖最后由 toddhai 于 2015-07-31 09:48 编辑

FNR!=1,我不懂什么意思。
在读这三个文件的时候FNR的值分别是1,2,3,4/1,2,3,4/1,2,3,4 。那么FNR!=1不就是筛选出来2,3,4行了吗,可是为什么执行这条语句的结果却是把筛选出了1,2,3行呢?
求大神指点!
回复 3# jason680


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP