免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1745 | 回复: 5
打印 上一主题 下一主题

[文本处理] 提取文本中的表名并分成多行,再根据表名进行汇总 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2015-02-05 14:01 |只看该作者 |倒序浏览

文本是这样的
CPU Time (s)        Number  SQLTEXT
916154.22         33       Select  * from A_1_2_3 A where a.b in (select b.b from B_3SDF B)
865764.75          234    SELECT COUNT(1) FROM A_1_2_3 A, C_1_2 C WHERE  A.AD (SELECT 1 FROM D_2_3 D WHERE aa=xx)


我要把所有SQLTEXT文本中的表名提取出来,只取From 后面的表名,根据表名变成多行,一个from 后面可能有多个表名,要根据逗号来判断,表可大多数都有别名,只取表名即可,结果如下所示:


中间结果:
CPU Time (s)        Number  SQLTEXT
916154.22         33         A_1_2_3
916154.22         33        B_3SDF
865764.75          234     A_1_2_3
865764.75          234     C_1_2
865764.75          234     D_2_3

最终结果:
CPU Time (s)        Number  SQLTEXT
1781918.97         267        A_1_2_3
916154.22         33        B_3SDF
865764.75          234     C_1_2
865764.75          234     D_2_3

论坛徽章:
23
15-16赛季CBA联赛之吉林
日期:2017-12-21 16:39:27白羊座
日期:2014-10-27 11:14:37申猴
日期:2014-10-23 08:36:23金牛座
日期:2014-09-30 08:26:49午马
日期:2014-09-29 09:40:16射手座
日期:2014-11-25 08:56:112015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:49:0315-16赛季CBA联赛之山东
日期:2017-12-21 16:39:1915-16赛季CBA联赛之广东
日期:2016-01-19 13:33:372015亚冠之山东鲁能
日期:2015-10-13 09:39:062015亚冠之西悉尼流浪者
日期:2015-09-21 08:27:57
2 [报告]
发表于 2015-02-05 15:10 |只看该作者
回复 1# 我是DBA


以前你也可以写出来的。
  1. sed -r 's/from/,/gi;s/((\S+\s+){2})[^,]*, *(\w+)[^,]*/\1\3\n\1/;/\n/P;D' file
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2015-02-05 15:26 |只看该作者
回复 1# 我是DBA

$ awk 'NR==1{print;next}{for(n=3;n<NF;n++){if(t==1){if(!num[$n])a[++c]=$n;cpu[$n]+=$1;num[$n]+=$2;n++;t=sub(",$","",$n)}if(toupper($n)=="FROM")t=1;}}END{for(n=1;n<=c;n++)printf("%12.2f\t%9d   %s\n",cpu[a[n]],num[a[n]],a[n])}' FILE
CPU Time (s)        Number  SQLTEXT
  1781918.97              267   A_1_2_3
   916154.22               33   B_3SDF
   865764.75              234   C_1_2
   865764.75              234   D_2_3

论坛徽章:
30
申猴
日期:2014-04-10 09:43:532015年亚洲杯纪念徽章
日期:2015-03-20 14:40:232015亚冠之阿尔纳斯尔
日期:2015-06-02 18:59:042015亚冠之阿尔希拉尔
日期:2015-06-30 15:22:572015亚冠之大阪钢巴
日期:2015-07-20 10:44:332015亚冠之阿尔纳斯尔
日期:2015-10-28 14:57:5215-16赛季CBA联赛之新疆
日期:2015-12-25 10:18:45黑曼巴
日期:2016-06-26 21:39:5315-16赛季CBA联赛之山西
日期:2016-07-25 21:54:2715-16赛季CBA联赛之北京
日期:2016-10-27 12:07:2315-16赛季CBA联赛之八一
日期:2017-07-07 16:39:0915-16赛季CBA联赛之吉林
日期:2017-09-04 12:14:43
4 [报告]
发表于 2015-02-05 15:53 |只看该作者
  1. awk -F 'from|where|FROM|WHERE' 'BEGIN{print "CPU Time (s)\tNumber\tSQLTEXT"}
  2.        {split($1,c," ");e=c[1];f=c[2];
  3.           for(i=2;i<=NF;i++) {
  4.             if(i%2==0) {
  5.               for (j=1;j<=split($i,a,",");j++) {
  6.                  for(k=1;k<=split(a[j],b,",");k++)
  7.                    split(b[1],d," ");
  8.                    h[d[1]]+=e;m[d[1]]+=f;q[d[1]]
  9.               }
  10.                 }
  11.              }
  12.         }
  13.    END{for (i in q) printf( "%.2f\t%d\t%s\n",h[i],m[i],i)}' file
  14. CPU Time (s)    Number  SQLTEXT
  15. 916154.22       33      B_3SDF
  16. 865764.75       234     D_2_3
  17. 865764.75       234     C_1_2
  18. 1781918.97      267     A_1_2_3
复制代码
回复 1# 我是DBA


   

求职 : 机器学习
论坛徽章:
79
2015年亚洲杯纪念徽章
日期:2015-05-06 19:18:572015七夕节徽章
日期:2015-08-21 11:06:172015亚冠之阿尔纳斯尔
日期:2015-09-07 09:30:232015亚冠之萨济拖拉机
日期:2015-10-21 08:26:3915-16赛季CBA联赛之浙江
日期:2015-12-30 09:59:1815-16赛季CBA联赛之浙江
日期:2016-01-10 12:35:21技术图书徽章
日期:2016-01-15 11:07:2015-16赛季CBA联赛之新疆
日期:2016-02-24 13:46:0215-16赛季CBA联赛之吉林
日期:2016-06-26 01:07:172015-2016NBA季后赛纪念章
日期:2016-06-28 17:44:45黑曼巴
日期:2016-06-28 17:44:4515-16赛季CBA联赛之浙江
日期:2017-07-18 13:41:54
5 [报告]
发表于 2015-02-05 16:22 |只看该作者
楼上的全是大神~

论坛徽章:
0
6 [报告]
发表于 2015-02-06 10:40 |只看该作者
搭楼管道
  1. awk -F'  +' 'NR==1{print ;next}{a[$3]+=$2;b[$3]+=$1}END{for(i in a)printf("%.2f\t%s\t%d\n",b[i],i,a[i])}'
复制代码
回复 2# ly5066113


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP