免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: LOVCAL
打印 上一主题 下一主题

求救!大文件处理 [复制链接]

论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
11 [报告]
发表于 2010-06-23 13:25 |只看该作者
回复 8# LOVCAL


你试验一下看看到底是-i直接修改原文件快,还是用重定向快?

论坛徽章:
0
12 [报告]
发表于 2010-06-23 14:07 |只看该作者
貌似效率不太高啊,bbgg1983 (朕本布衣) ---找到效率高的方法了么?

论坛徽章:
0
13 [报告]
发表于 2010-06-23 14:39 |只看该作者
版本原因,我这没有-i参数
不知道有没有其他效率高点的办法
目前这方法去空格跑得特别慢

论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
14 [报告]
发表于 2010-06-23 15:50 |只看该作者
回复 13# LOVCAL


这样删空格的速度如何?

  1. tr -d ' ' < file1 >file2
复制代码

论坛徽章:
0
15 [报告]
发表于 2010-06-23 16:22 |只看该作者
...10几G的文件,效率再高也不怎么样。。

论坛徽章:
0
16 [报告]
发表于 2010-06-23 17:24 |只看该作者
我的经验是先把大文件split成小文件,处理完了再cat。

论坛徽章:
0
17 [报告]
发表于 2010-06-23 19:01 |只看该作者
先在本版搜索下,以前讨论过这个问题,有几种高效的方法。

譬如dd之类的。

论坛徽章:
33
ChinaUnix元老
日期:2015-02-02 08:55:39CU十四周年纪念徽章
日期:2019-08-20 08:30:3720周年集字徽章-周	
日期:2020-10-28 14:13:3020周年集字徽章-20	
日期:2020-10-28 14:04:3019周年集字徽章-CU
日期:2019-09-08 23:26:2519周年集字徽章-19
日期:2019-08-27 13:31:262016科比退役纪念章
日期:2022-04-24 14:33:24
18 [报告]
发表于 2010-06-23 20:34 |只看该作者
回复 17# dandy


看到过dd删除最后一行的例子,没看到过删除空格的例子,你能找到?

论坛徽章:
0
19 [报告]
发表于 2010-06-24 08:44 |只看该作者
我的经验是先把大文件split成小文件,处理完了再cat。
forge007 发表于 2010-06-23 17:24



    对于lz的需求,你介样做有意义么?

论坛徽章:
0
20 [报告]
发表于 2010-06-24 12:36 |只看该作者
回复 19# redspider


    呵呵,我认为是有意义的。简单的往往最有效。使用vi/ex对一个10G的文件进行编辑,是很难完成的。我说的方法能完成该任务,但是未必是最好。你如果有更好的办法,可以说说。我等学习下。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP