免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 3404 | 回复: 15
打印 上一主题 下一主题

[文本处理] shell按规则处理目录中的某类型文件 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2016-01-26 16:08 |只看该作者 |倒序浏览
有一个需求!
在某个目录下比如:/home/tstfolder/(此目录下可能还有子目录)下搜寻文件名类似为request.log.2014-05-14-10-21-17(也就是request.log开头的文件)
request.log文件的内容为(此类型文件多且比较大)
18.107.2.70 - yanin1 [14/Apr/2014:10:07:05 +0800] "GET /applis/apst/images/facebox/b.png HTTP/1.1" 200 84
13.107.2.70 - ngin1  [14/Apr/2014:10:07:05 +0800] "GET /applis/aist/images/agesApplist/bl.png HTTP/1.1" 200 124
12.107.2.70 - yann1 [14/Apr/2014:10:07:05 +0800] "GET /appt/appst/images/appShow/br.png HTTP/1.1" 200 124
11.107.2.70 - ngbin [14/Apr/2014:10:07:05 +0800] "GET /apjct/apt/images/facebox/tl.png HTTP/1.1" 200 132
12.107.2.70 - yangb [14/Apr/2014:10:07:05 +0800] "GET /apjct/appst/images/jquery/tr.png HTTP/1.1" 200 125
对每个request.log作如下的处理:
首先判断如果最后入一个字段大于130则输request.log.2014-05-14-10-21-17_a文件,不符合输入equest.log.2014-05-14-10-21-17_b文件;
然后再判断:如果在GET那个字段含有appShow或者jquery 或者agesApplist的则将其输入request.log.2014-05-14-10-21-17_a文件,不含有这些字段的将其输入到request.log.2014-05-14-10-21-17_b文件

请问这个shell怎么写啊?

论坛徽章:
0
2 [报告]
发表于 2016-01-26 16:20 |只看该作者
我也在写,望大家帮帮忙

论坛徽章:
29
程序设计版块每日发帖之星
日期:2016-02-29 06:20:0015-16赛季CBA联赛之天津
日期:2016-08-10 10:33:1115-16赛季CBA联赛之深圳
日期:2016-08-17 15:07:2015-16赛季CBA联赛之佛山
日期:2016-11-07 11:33:5015-16赛季CBA联赛之广夏
日期:2016-11-15 09:13:31CU十四周年纪念徽章
日期:2016-11-24 14:12:25极客徽章
日期:2016-12-07 14:03:4015-16赛季CBA联赛之深圳
日期:2016-12-07 17:15:2715-16赛季CBA联赛之北京
日期:2016-12-22 09:30:0115-16赛季CBA联赛之深圳
日期:2016-12-22 10:49:2115-16赛季CBA联赛之山西
日期:2017-02-10 09:05:3215-16赛季CBA联赛之同曦
日期:2017-02-27 14:19:08
3 [报告]
发表于 2016-01-26 16:27 |只看该作者
  1. find . -name "request.log.*" | awk '$NF>130||/appShow/||/jquery/||/agesApplist/{print > "a.txt";next}{print > "b.txt"}'
复制代码

论坛徽章:
12
程序设计版块每日发帖之星
日期:2016-01-28 06:20:00程序设计版块每周发帖之星
日期:2016-03-07 16:29:28程序设计版块每日发帖之星
日期:2016-02-04 06:20:00程序设计版块每日发帖之星
日期:2016-02-02 06:20:00每周论坛发贴之星
日期:2016-01-31 22:22:00程序设计版块每日发帖之星
日期:2016-02-01 06:20:00程序设计版块每日发帖之星
日期:2016-01-31 06:20:00每日论坛发贴之星
日期:2016-01-30 06:20:00程序设计版块每日发帖之星
日期:2016-01-30 06:20:00每日论坛发贴之星
日期:2016-01-29 06:20:00程序设计版块每日发帖之星
日期:2016-01-29 06:20:0015-16赛季CBA联赛之福建
日期:2016-04-06 14:19:05
4 [报告]
发表于 2016-01-26 16:28 |只看该作者
那么问题来了
如果在GET那个字段含有appShow或者jquery 或者agesApplist 和 最后入一个字段小于等于130 的一条数据 究竟是输入到哪个文件中?

论坛徽章:
0
5 [报告]
发表于 2016-01-26 16:39 |只看该作者
回复 4# ydzcjj


是先判断130的,确定输出,
如果不是130的再判断所含字段

论坛徽章:
0
6 [报告]
发表于 2016-01-26 16:41 |只看该作者
回复 3# elu_ligao


    好厉害啊,我写了一大堆,还在变量目录下的文件,然后再处理呢

论坛徽章:
12
程序设计版块每日发帖之星
日期:2016-01-28 06:20:00程序设计版块每周发帖之星
日期:2016-03-07 16:29:28程序设计版块每日发帖之星
日期:2016-02-04 06:20:00程序设计版块每日发帖之星
日期:2016-02-02 06:20:00每周论坛发贴之星
日期:2016-01-31 22:22:00程序设计版块每日发帖之星
日期:2016-02-01 06:20:00程序设计版块每日发帖之星
日期:2016-01-31 06:20:00每日论坛发贴之星
日期:2016-01-30 06:20:00程序设计版块每日发帖之星
日期:2016-01-30 06:20:00每日论坛发贴之星
日期:2016-01-29 06:20:00程序设计版块每日发帖之星
日期:2016-01-29 06:20:0015-16赛季CBA联赛之福建
日期:2016-04-06 14:19:05
7 [报告]
发表于 2016-01-26 16:46 |只看该作者
回复 5# hope1234567hope


    上面大神的满分好评

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
8 [报告]
发表于 2016-01-26 16:47 |只看该作者
回复 1# hope1234567hope

1. make sure you can find all files
$ find . -name "request.log*[0-9]"
./2016/request.log.2016-05-14-10-21-17
./request.log.2014-05-14-10-21-17
./2015/request.log.2015-05-14-10-21-17


2. make files by your rule
$ find . -name "request.log*[0-9]" | xargs awk '{if(F!=FILENAME){if(F){close(F"_a");close(F"_b")}F=FILENAME;print F};if($NF>130 || $7~/appShow|jquer|agesApplist/){print > F"_a";next};print > F"_b"}'
./2016/request.log.2016-05-14-10-21-17
./request.log.2014-05-14-10-21-17
./2015/request.log.2015-05-14-10-21-17

3. list all files
$ find . -name "request.log*"
./2016/request.log.2016-05-14-10-21-17_b
./2016/request.log.2016-05-14-10-21-17
./2016/request.log.2016-05-14-10-21-17_a
./request.log.2014-05-14-10-21-17
./request.log.2014-05-14-10-21-17_b
./request.log.2014-05-14-10-21-17_a
./2015/request.log.2015-05-14-10-21-17_a
./2015/request.log.2015-05-14-10-21-17
./2015/request.log.2015-05-14-10-21-17_b

4. check files with xxx_a & xxx_b
$ cat request.log.2014-05-14-10-21-17_a
13.107.2.70 - ngin1  [14/Apr/2014:10:07:05 +0800] "GET /applis/aist/images/agesApplist/bl.png HTTP/1.1" 200 124
12.107.2.70 - yann1 [14/Apr/2014:10:07:05 +0800] "GET /appt/appst/images/appShow/br.png HTTP/1.1" 200 124
11.107.2.70 - ngbin [14/Apr/2014:10:07:05 +0800] "GET /apjct/apt/images/facebox/tl.png HTTP/1.1" 200 132
12.107.2.70 - yangb [14/Apr/2014:10:07:05 +0800] "GET /apjct/appst/images/jquery/tr.png HTTP/1.1" 200 125

$ cat request.log.2014-05-14-10-21-17_b
18.107.2.70 - yanin1 [14/Apr/2014:10:07:05 +0800] "GET /applis/apst/images/facebox/b.png HTTP/1.1" 200 84


   

论坛徽章:
0
9 [报告]
发表于 2016-01-26 16:48 |只看该作者
但是find . -name "request.log.*" | awk '$NF>130||/appShow/||/jquery/||/agesApplist/{print > "a.txt";next}{print > "b.txt"}'
我这怎么不是我想要的结果啊,只出来了b文件

论坛徽章:
0
10 [报告]
发表于 2016-01-26 16:56 |只看该作者
回复 8# jason680

你好,对awk研究的不深入。能分段讲讲awk '{if(F!=FILENAME){if(F){close(F"_a");close(F"_b")}F=FILENAME;print F};if($NF>130 || $7~/appShow|jquer|agesApplist/){print > F"_a";next};print > F"_b"}'    的意思么? 正在查资料看你的这段话的意思!谢谢了

   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP