免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 2208 | 回复: 6
打印 上一主题 下一主题

[文本处理] nginx 日志指定字符串内部统计 求大神指点 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2017-08-07 08:56 |只看该作者 |倒序浏览
12.26.72.175 10.26.109.10 - - [13/May/2017:00:00:01 +0800] "POST /test/service/code.htm HTTP/1.0" 200 148 "-" "www.test.com" "11.26.112.158:41011" "0.050" "0.049" "Java/1.8.0_101"
12.26.72.1 10.26.109.10 - - [13/May/2017:00:00:01 +0800] "POST /test/report/ReportServer?sessionID=12173&_=1502028106599 HTTP/1.0" 200 253 "-" "www.test.com" "11.26.112.158:41011" "0.050" "0.049" "Java/1.8.0_101"
13.26.72.1 10.26.109.10 - - [13/May/2017:00:00:01 +0800] "POST /test/report/ReportServer?sessionID=12175&_=1502028106599 HTTP/1.0" 200 253 "-" "www.test.com" "11.26.112.158:41011" "0.050" "0.049" "Java/1.8.0_101"
12.26.72.1 10.26.109.10 - - [13/May/2017:00:00:01 +0800] "POST /test/report/ReportServer?sessionID=12173&_=1502028106599 HTTP/1.0" 200 148 "-" "www.test.com" "11.26.112.158:41011" "0.050" "0.049" "Java/1.8.0_101"
3.3.3.3 - - [06/Aug/2017:22:03:46 +0800] "GET /mm/test.htm?ASMF1FDKSK1PcmRlckluZm8mY29kZVR5cGU9Z20= HTTP/1.1" 200 12337 "http://boss1.test.com/boss/test.htm?aWQ9NTEyN94B4Tc1Mzcm="  "-" "boss.zhiyoubao.com" "10.132.25.241:80" "0.117"   "0.017" "Mozilla/5.0 (Linux; U; Android 6.0.1; zh-cn; MI 5 Build/MXB48T) AppleWebKit/537.36 (KHTML, like Gecko) Version/4.0 Chrome/53.0.2785.146 Mobile Safari/537.36 XiaoMi/MiuiBrowser/9.0.3


按照post,get 之后的路径统计流量
生成如下
/test/service 148
/test/report 654
/mm/test.htm 12337

论坛徽章:
30
申猴
日期:2014-04-10 09:43:532015年亚洲杯纪念徽章
日期:2015-03-20 14:40:232015亚冠之阿尔纳斯尔
日期:2015-06-02 18:59:042015亚冠之阿尔希拉尔
日期:2015-06-30 15:22:572015亚冠之大阪钢巴
日期:2015-07-20 10:44:332015亚冠之阿尔纳斯尔
日期:2015-10-28 14:57:5215-16赛季CBA联赛之新疆
日期:2015-12-25 10:18:45黑曼巴
日期:2016-06-26 21:39:5315-16赛季CBA联赛之山西
日期:2016-07-25 21:54:2715-16赛季CBA联赛之北京
日期:2016-10-27 12:07:2315-16赛季CBA联赛之八一
日期:2017-07-07 16:39:0915-16赛季CBA联赛之吉林
日期:2017-09-04 12:14:43
2 [报告]
发表于 2017-08-07 12:29 |只看该作者
回复 1# shawnloong


  1. awk -F ' "' --re-interval  '{match($2,"[^ ]+ ((/[^/.]+){2}).* ([0-9]+)$",a);b[a[1]]+=a[3]}END{for(i in b) print i,b[i]}' file
  2. /test/service 148
  3. /test/report 654
  4. /mm/test 12337
复制代码

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2017-08-07 23:07 |只看该作者
回复 1# shawnloong

$ awk 'match($0,"\"(POST|GET) ([^\"]+)\" [0-9]+ ([0-9]+)",m){k=m[2];sub("[?= ].+","",k);sub("\/[^\/]+$","",k);a[k]+=m[3]}END{for(n in a)print n,a[n]}' FILE
awk: cmd. line:1: warning: escape sequence `\/' treated as plain `/'
/test/report 654
/test/service 148
/mm 12337

论坛徽章:
0
4 [报告]
发表于 2017-08-08 09:46 |只看该作者
回复 3# jason680

这个可以的.3Q

论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
5 [报告]
发表于 2017-08-08 10:31 |只看该作者

  1. awk '/"GET |"POST /{match($0,/("GET |"POST )(\/[^.?]+)\//,a);b[a[2]]++}END{for(i in b)print i,b[i]}' file
复制代码

?

论坛徽章:
0
6 [报告]
发表于 2017-08-08 10:47 |只看该作者
回复 2# zxy877298415

统计有点问题,/report/后面key全有了

论坛徽章:
0
7 [报告]
发表于 2017-08-08 14:27 |只看该作者
回复 6# shawnloong

统计的流量列不对..
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP