免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3334 | 回复: 7
打印 上一主题 下一主题

超级新手咨询:python处理大文件速度问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2015-11-20 18:01 |只看该作者 |倒序浏览
本帖最后由 荼蘼爱学习 于 2015-11-23 13:50 编辑

小女子是计算机超级新手,由于工作所迫,被迫学习python.
这个问题说来话长,都不知道怎么描述,可能有说的不清楚的地方,还请前辈们多多指导。。。。。。。
简单的说,就是我执行下面的脚本的时候,处理一个大概2个G的文件,速度特别特别特别慢,不知道是哪一步导致速度这么慢?

主要是遍历每一行,识别中文,存到数据库,就这样。。。
代码好长,不要见笑。。。。

论坛徽章:
0
2 [报告]
发表于 2015-11-20 18:02 |只看该作者
我自己都看晕了,怎么这么长。。。。。。。。。。。。。。。 疯了

论坛徽章:
26
2015亚冠之胡齐斯坦钢铁
日期:2015-06-25 21:40:202015亚冠之柏斯波利斯
日期:2015-08-31 17:03:192015亚冠之柏斯波利斯
日期:2015-11-07 13:10:00程序设计版块每日发帖之星
日期:2015-11-10 06:20:00每日论坛发贴之星
日期:2015-11-10 06:20:00程序设计版块每日发帖之星
日期:2015-11-26 06:20:00程序设计版块每日发帖之星
日期:2015-12-02 06:20:00黄金圣斗士
日期:2015-12-07 17:57:4615-16赛季CBA联赛之天津
日期:2015-12-23 18:34:14程序设计版块每日发帖之星
日期:2016-01-02 06:20:00程序设计版块每日发帖之星
日期:2016-01-06 06:20:00每日论坛发贴之星
日期:2016-01-06 06:20:00
3 [报告]
发表于 2015-11-21 10:16 |只看该作者
晕了[],
怎么这么长[]

论坛徽章:
0
4 [报告]
发表于 2015-11-21 16:11 |只看该作者

论坛徽章:
26
2015亚冠之胡齐斯坦钢铁
日期:2015-06-25 21:40:202015亚冠之柏斯波利斯
日期:2015-08-31 17:03:192015亚冠之柏斯波利斯
日期:2015-11-07 13:10:00程序设计版块每日发帖之星
日期:2015-11-10 06:20:00每日论坛发贴之星
日期:2015-11-10 06:20:00程序设计版块每日发帖之星
日期:2015-11-26 06:20:00程序设计版块每日发帖之星
日期:2015-12-02 06:20:00黄金圣斗士
日期:2015-12-07 17:57:4615-16赛季CBA联赛之天津
日期:2015-12-23 18:34:14程序设计版块每日发帖之星
日期:2016-01-02 06:20:00程序设计版块每日发帖之星
日期:2016-01-06 06:20:00每日论坛发贴之星
日期:2016-01-06 06:20:00
5 [报告]
发表于 2015-11-23 12:17 |只看该作者
回复 4# 荼蘼爱学习


    爱学习 [ ]

通过本书学习Python。
《简明 Python 教程》

无论您刚接触电脑还是一个有经验的程序员,本书都将有助您学习使用Python语言。



顺便提醒你,Python将很快成为你最喜欢的编程语言![ ]

论坛徽章:
0
6 [报告]
发表于 2015-11-23 13:42 |只看该作者
1. file = MySQLCo.MysqlQuery().query_fetchname('select id,file_name,is_dump from file_dump_table where is_dump = 1')
名字烂,不要叫file了, 跟函数file重名,不好认,

2. DIR_B = AppConf.DIR_B
    def ExtractAndMark(self,DIR_B)
局部变量和全局变量重名,改一下,最好给个初始值。

3. 请将控制循环 和 文件操作分两个函数写 还有很多可以写成小函数。。。

太多了,不吐槽了。。。。

论坛徽章:
0
7 [报告]
发表于 2015-11-23 13:47 |只看该作者
非常感谢~~~
希望我能爱上这个折磨人的坏家伙。。。。
回复 5# substr函数


   

论坛徽章:
0
8 [报告]
发表于 2015-11-23 13:48 |只看该作者
高手~~~ 感谢前辈,我研究研究去~~~
回复 6# yinan11088


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP