免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 12415 | 回复: 10
打印 上一主题 下一主题

运行到readlines的时候,报MemoryError [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2008-08-11 09:37 |只看该作者 |倒序浏览
Traceback (most recent call last):
  File "stat_auth.py", line 57, in ?
    for buff in fLog.readlines():#把radius log的内容保存到rad_log_line数组中
MemoryError


应该是文件过大,读入的行数过多,导致内存不够。
有什么好办法解决吗?

论坛徽章:
0
2 [报告]
发表于 2008-08-11 09:39 |只看该作者
一行行读入或读一定行数处理

论坛徽章:
0
3 [报告]
发表于 2008-08-11 09:41 |只看该作者
用这个吧,
for buff in fLog.xreadlines():
readlines()方法是一次就生成了一个列表
而xreadlines()方法是一个迭代器,

论坛徽章:
0
4 [报告]
发表于 2008-08-11 09:48 |只看该作者
楼上的方法不错。

不行就循环一行一行读取,或者指定长度的读取把。

论坛徽章:
0
5 [报告]
发表于 2008-08-11 10:34 |只看该作者

  1. #!/usr/bin/env python

  2. f=file ('1.py','r')
  3. for x in f:
  4.     print x,
复制代码

论坛徽章:
0
6 [报告]
发表于 2008-08-12 19:47 |只看该作者
一次读入整个文件肯定会引发内存问题.

论坛徽章:
0
7 [报告]
发表于 2008-08-12 21:43 |只看该作者
try fileinput.

论坛徽章:
0
8 [报告]
发表于 2008-08-18 11:11 |只看该作者
已经把readlines改为xreadlines了,但是还是报同样的错误。
需要读进内存的文本,大概有520万行。这个脚本,读进230万行的文本,是没有问题的。
之所以要把文本读进内存,是为了把文本逐行的转化成数组,再对数组中的元素(也就是文本的行)逐个进行处理。

如果不通过把文本逐行转成数组的方法,大家还有什么好一些的方法可以方便的对文本逐行进行处理吗?

论坛徽章:
11
技术图书徽章
日期:2014-03-01 14:44:34天蝎座
日期:2014-05-21 22:11:59金牛座
日期:2014-05-30 17:06:14
9 [报告]
发表于 2008-08-18 11:20 |只看该作者
读入数组前,能不能过滤下每行的数据,提取真正有用的信息,因为数据量太大了,即使520w个四字节整数都有19MB多啊

论坛徽章:
0
10 [报告]
发表于 2008-08-18 11:21 |只看该作者
你要对文本进行什么处理?

象我前面给出的例子,读一行,扔一行,用的内存非常少。但如果你处理必须把全部行都读入,同时操作,那无论用什么方法读入,结果都是一样的。

现在你要考虑的是如何改进你的文本处理方式,而不是读入方式。

另外,python 里有数组对象吗?
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP