免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3501 | 回复: 4
打印 上一主题 下一主题

python分析日志问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-11-24 22:01 |只看该作者 |倒序浏览
有一个程序的日志size比较大,有快1G,如果日志不分割,想用分析python分析最近10分钟的内容,有什么好的方法吗?
Fri Oct 12 11:14:42 [rsSync] info DFM::findAll(): extent 4:38a12000 was empty, skipping ahead. ns:local.replset.minvalid
Fri Oct 12 13:42:15 [conn283] end connection 10.13.213.125:56466 (0 connections now open)
Fri Oct 12 16:59:57 [conn678] end connection 10.13.213.125:44162 (0 connections now open)
....
有什么方法不从文件的开头一行一行读取呢,可是不一行一行的读取,怎么知道是最近10分钟的日志呢?求解答!!

论坛徽章:
0
2 [报告]
发表于 2012-11-24 22:21 |只看该作者
不久前做过一个路由器日志分析的

不过还是分割了 用时间做key存在字典里

论坛徽章:
33
荣誉会员
日期:2011-11-23 16:44:17天秤座
日期:2014-08-26 16:18:20天秤座
日期:2014-08-29 10:12:18丑牛
日期:2014-08-29 16:06:45丑牛
日期:2014-09-03 10:28:58射手座
日期:2014-09-03 16:01:17寅虎
日期:2014-09-11 14:24:21天蝎座
日期:2014-09-17 08:33:55IT运维版块每日发帖之星
日期:2016-04-17 06:23:27操作系统版块每日发帖之星
日期:2016-04-18 06:20:00IT运维版块每日发帖之星
日期:2016-04-24 06:20:0015-16赛季CBA联赛之天津
日期:2016-05-06 12:46:59
3 [报告]
发表于 2012-11-25 02:16 |只看该作者
我不太确定, 不过, 我相信 python 应该有 seek 这个功能. 你可能直接 seek到文件尾, 然后再向上seek.

如果你是每10分钟执行一次的话, 就简单了, 直接把上次打开时年字节数记录下, 下次直接 seek过去, 然后继续, 就OK了.

论坛徽章:
13
双鱼座
日期:2013-10-23 09:30:05数据库技术版块每日发帖之星
日期:2016-04-20 06:20:00程序设计版块每日发帖之星
日期:2016-03-09 06:20:002015亚冠之塔什干火车头
日期:2015-11-02 10:07:452015亚冠之德黑兰石油
日期:2015-08-30 10:07:07数据库技术版块每日发帖之星
日期:2015-08-28 06:20:00数据库技术版块每日发帖之星
日期:2015-08-05 06:20:002015年迎新春徽章
日期:2015-03-04 09:57:09辰龙
日期:2014-12-03 14:45:52酉鸡
日期:2014-07-23 09:46:23亥猪
日期:2014-03-13 08:46:22金牛座
日期:2014-02-11 09:36:21
4 [报告]
发表于 2012-11-25 11:33 |只看该作者
有seek不假

论坛徽章:
4
CU大牛徽章
日期:2013-03-13 15:29:07CU大牛徽章
日期:2013-03-13 15:29:49CU大牛徽章
日期:2013-03-13 15:30:192015亚冠之广州恒大
日期:2015-07-22 17:20:15
5 [报告]
发表于 2012-11-26 12:00 |只看该作者
reobj = re.compile('(?is)xxxx')
reobj.math 这个时候的math 和 re.math是不一样的 你自己查查去

这个时候math 有三个参数 第一个要匹配的字符 第二个参数 pos  第三个 endpos

你地明白了  读取固定的 然后通过偏移来匹配
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP