免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1597 | 回复: 8
打印 上一主题 下一主题

[文本处理] awk处理文本的问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2013-03-19 11:44 |只看该作者 |倒序浏览
本帖最后由 mwl326 于 2013-03-19 11:45 编辑

文本格式如下:

WARNING: 03-19 10:00:00:  XXX. * 1126189408 [xxxxxxxxx.cpp] [check_item] : socket 74 closed by peer.
WARNING: 03-19 10:00:00:  XXX. * 1231087968 read [src] from xxxxxui fail
WARNING: 03-19 10:00:00:  XXX * 1231087968 read [dt] from xxxxxxui fail
WARNING: 03-19 10:00:00:  XXX * 1524803936 [xxxxxxx.cpp] [xxxxxxx] : areaID is zero
WARNING: 03-19 10:00:00:  XXX * 1598232928 read [xxxxx] from mcpackof ui fail
ERROR: 03-19 10:00:00:  XXX * 1598232928 read [xxxxx] from mcpackof ui fail
WARNING: 03-19 10:00:00:  XXX * 1472354656 [xxxxxxx.cpp] [get_provinceID] : areaID is zero
WARNING: 03-19 10:00:00:  XXX * 1650682208 [xxxxxxx.cpp] [get_provinceID] : areaID is zero
FATAL: 03-19 10:00:00:  XXX * 1430395232 [xxxxxxxx.cpp] [get_provinceID] : areaID is zero
WARNING: 03-19 10:00:00:  XXX * 1335986528 [xxxxxxxx.cpp] [get_provinceID] : areaID is zero

我想用第一列和具体的日志内容作为key 统计对应的数值。
比如
处理后得到:
data【WARNING】【[xxxxxxxxx.cpp] [check_item] : socket 74 closed by peer.】 有多少个, 以此类推。

谢谢~~

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
2 [报告]
发表于 2013-03-19 12:14 |只看该作者
本帖最后由 yestreenstars 于 2013-03-19 12:21 编辑
  1. sed -r 's/^([^:]*).*[0-9]{10} (.*)$/data【\1】【\2】/'
复制代码

论坛徽章:
0
3 [报告]
发表于 2013-03-19 12:44 |只看该作者
回复 2# yestreenstars

谢谢 但是我想用awk获取一个统计数值。


   

论坛徽章:
0
4 [报告]
发表于 2013-03-19 12:47 |只看该作者
回复 2# yestreenstars

就是我想遍历一次文件就可以做到。


   

论坛徽章:
15
2015年辞旧岁徽章
日期:2015-03-03 16:54:15双鱼座
日期:2015-01-15 17:29:44午马
日期:2015-01-06 17:06:51子鼠
日期:2014-11-24 10:11:13寅虎
日期:2014-08-18 07:10:55酉鸡
日期:2014-04-02 12:24:51双子座
日期:2014-04-02 12:19:44天秤座
日期:2014-03-17 11:43:36亥猪
日期:2014-03-13 08:13:51未羊
日期:2014-03-11 12:42:03白羊座
日期:2013-11-20 10:15:18CU大牛徽章
日期:2013-04-17 11:48:45
5 [报告]
发表于 2013-03-19 12:50 |只看该作者
  1. awk '{printf $2 FS $1 ;for (i=7;i<=NF;i++) printf FS $i;printf RS}' input|sort |uniq -c |sort -n
复制代码

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
6 [报告]
发表于 2013-03-19 13:14 |只看该作者
这样可以吗?
  1. awk '{for(i=7;i<=NF;i++)s=s?s" "$i:$i;a[$1,s]++;s=""}END{for(i in a)print a[i],i}'
复制代码

论坛徽章:
0
7 [报告]
发表于 2013-03-19 13:59 |只看该作者
# sed  -r 's/03-19.*[0-9]{3,}//' file | sort -nr | uniq -c
      1 WARNING:  read [xxxxx] from mcpackof ui fail
      1 WARNING:  read [src] from xxxxxui fail
      1 WARNING:  read [dt] from xxxxxxui fail
      1 WARNING:  [xxxxxxxxx.cpp] [check_item] : socket 74 closed by peer.
      1 WARNING:  [xxxxxxxx.cpp] [get_provinceID] : areaID is zero
      1 WARNING:  [xxxxxxx.cpp] [xxxxxxx] : areaID is zero
      2 WARNING:  [xxxxxxx.cpp] [get_provinceID] : areaID is zero
      1 FATAL:  [xxxxxxxx.cpp] [get_provinceID] : areaID is zero
      1 ERROR:  read [xxxxx] from mcpackof ui fail

论坛徽章:
0
8 [报告]
发表于 2013-03-21 22:44 |只看该作者
回复 6# yestreenstars


    谢谢你~~~  

论坛徽章:
0
9 [报告]
发表于 2013-03-23 09:31 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP