免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1750 | 回复: 7
打印 上一主题 下一主题

[文本处理] 逐条取日志文件并通过logger发送 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2016-07-04 18:05 |只看该作者 |倒序浏览
本帖最后由 huarte 于 2016-07-04 18:16 编辑

需求是这样的:服务器有周期性生成的一些日志文件,文件名filename,现在我需要用SHELL程序来读取日志文件的内容,并逐条发送;
日志格式:
product_id,vendor_code,event_dt,event_category,featureValue,raw_event
8814,"ICMP_PING_事件","07/01/16 17:54:27 CST","IdsIps","13","Jul 01 17:58:32 10.15.10.1 TIME:20160701181239"


日志读取指令:
cat filename|logger -p user.info  
之前采用这种方式,但发现发送是把整个日志文件以一个数据包的形式一次发出了,不满足要求;

如图:

正确情况应该是每行都要做一次logger操作,发送一次。问题是用什么工具,AWK或SED实现每次取一行,做一次判断(当第一列product_id为8814且第二列vendor_code为ICMP_PING_事件时发送本行日志消息),并做一次logger操作把哪行的日志发送出去,一直循环直到把最后一行发出去。

2.png (13.88 KB, 下载次数: 92)

2.png

论坛徽章:
0
2 [报告]
发表于 2016-07-04 21:22 |只看该作者
    想到个办法,先通过wc命令取文件总的行数,再通过FOR循环来逐条打印。但我的语法好像有问题($1为外部带入的文件名)
funcation monitor{
    H=‘cat $1|wc -l’
    for((i=3;i<=H;i=i+1))
    do
        awk 'NR=="'$i'"{print $0}' $1|logger -p user.info
    done

}

论坛徽章:
0
3 [报告]
发表于 2016-07-05 00:36 |只看该作者
本帖最后由 hahachinahaha 于 2016-07-05 12:25 编辑

学习学习~~

论坛徽章:
0
4 [报告]
发表于 2016-07-05 08:42 |只看该作者
function file_monitor(){
    if [ ! -f "$1" ] ; then
        return 1
    fi
    H=`cat $1|wc -l`
    for((i=3;i<=H;i=i+1))
    do
        awk 'NR=="'$i'"{print $0}' $1|logger -p user.info
    done

}
结构本身没有问题,经测试可正常运行了,之前报错是因为赋值H变量时候,后面值部分的反引号写成引号导致的问题。不过还是谢谢你的热心。


回复 3# hahachinahaha


   

论坛徽章:
10
15-16赛季CBA联赛之同曦
日期:2016-06-11 19:22:4115-16赛季CBA联赛之深圳
日期:2020-05-31 16:13:5615-16赛季CBA联赛之同曦
日期:2020-01-28 12:42:47每日论坛发贴之星
日期:2016-08-09 06:20:00程序设计版块每日发帖之星
日期:2016-08-09 06:20:00每日论坛发贴之星
日期:2016-07-12 06:20:00程序设计版块每日发帖之星
日期:2016-07-12 06:20:00程序设计版块每日发帖之星
日期:2016-07-06 06:20:00程序设计版块每日发帖之星
日期:2016-07-04 06:20:0015-16赛季CBA联赛之佛山
日期:2021-02-26 09:33:41
5 [报告]
发表于 2016-07-05 18:41 |只看该作者
while read line
do
     echo $line | 这写命令
done < file

论坛徽章:
0
6 [报告]
发表于 2016-07-06 08:58 |只看该作者
这执行效率是不是要快点?回复 5# ll104567


   

论坛徽章:
10
15-16赛季CBA联赛之同曦
日期:2016-06-11 19:22:4115-16赛季CBA联赛之深圳
日期:2020-05-31 16:13:5615-16赛季CBA联赛之同曦
日期:2020-01-28 12:42:47每日论坛发贴之星
日期:2016-08-09 06:20:00程序设计版块每日发帖之星
日期:2016-08-09 06:20:00每日论坛发贴之星
日期:2016-07-12 06:20:00程序设计版块每日发帖之星
日期:2016-07-12 06:20:00程序设计版块每日发帖之星
日期:2016-07-06 06:20:00程序设计版块每日发帖之星
日期:2016-07-04 06:20:0015-16赛季CBA联赛之佛山
日期:2021-02-26 09:33:41
7 [报告]
发表于 2016-07-06 10:16 |只看该作者
回复 6# huarte


    目测不会很快、你可以自己测试、生成个2000行的文件然后执行看一下时间

root@lp:~/pwb/tmp# cat 2000.txt |wc -l
2000
root@lp:~/pwb/tmp# cat a2.sh
#!/bin/bash

while read line
do
        echo $line|xargs > /dev/null

done < 2000.txt
root@lp:~/pwb/tmp# time bash a2.sh

real        0m5.315s
user        0m0.096s
sys        0m0.340s

论坛徽章:
0
8 [报告]
发表于 2016-07-08 13:59 |只看该作者
awk '{if($1 == '8814' && match($2, /ICMP_PING_[^\s]+/)) print $0}' d.txt
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP