免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1876 | 回复: 9
打印 上一主题 下一主题

[文本处理] 我的sed为何非常慢,是否有什么配置文件? [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2012-10-25 09:05 |只看该作者 |倒序浏览
sed "s/~^/\n/g"   file1
file1文件是从表中bcp出来的,记录用~^分隔,字段以!$分隔,整个文件就一个长串,大约有200万条记录,文件大小约500M,
我的suse linux9系统内存为8G,共享内存2G,但执行上面这个命令10多个小时都没结束。
我试了一下100行的文件很快就执行成功了。
我的sed为何非常慢,是否有什么配置文件?

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
2 [报告]
发表于 2012-10-25 09:07 |只看该作者
你是打印结果,看看直接编辑文件如何?-i参数。

既然你的字段和记录都是这么标准的分隔了,为什么不用awk处理呢?

论坛徽章:
0
3 [报告]
发表于 2012-10-25 09:11 |只看该作者
@L_kernel记录不是定长的,awk是否可以指定记录分隔符?

论坛徽章:
0
4 [报告]
发表于 2012-10-25 09:28 |只看该作者
现在要对此文件进行分析,有没有其它更好的办法?
此文件是上级行发的,不然bcp出来时直接用~^作记录分隔符多好。苦啊!!!

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
5 [报告]
发表于 2012-10-25 10:03 |只看该作者
try:
  1. awk -v RS='~\\^' 1 urfile
复制代码

论坛徽章:
0
6 [报告]
发表于 2012-10-25 10:13 |只看该作者
@blackold谢谢。

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:50:282015年亚洲杯之朝鲜
日期:2015-03-13 22:47:33IT运维版块每日发帖之星
日期:2016-01-09 06:20:00IT运维版块每周发帖之星
日期:2016-03-07 16:27:44
7 [报告]
发表于 2012-10-25 10:16 |只看该作者
lcz88990200 发表于 2012-10-25 10:13
@blackold谢谢。


行吗?

论坛徽章:
8
摩羯座
日期:2014-11-26 18:59:452015亚冠之浦和红钻
日期:2015-06-23 19:10:532015亚冠之西悉尼流浪者
日期:2015-08-21 08:40:5815-16赛季CBA联赛之山东
日期:2016-01-31 18:25:0515-16赛季CBA联赛之四川
日期:2016-02-16 16:08:30程序设计版块每日发帖之星
日期:2016-06-29 06:20:002017金鸡报晓
日期:2017-01-10 15:19:5615-16赛季CBA联赛之佛山
日期:2017-02-27 20:41:19
8 [报告]
发表于 2012-10-25 10:44 |只看该作者
如果除了~^连用之外没有使用这两个字符,目测用tr最快

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
9 [报告]
发表于 2012-10-25 10:56 |只看该作者
lcz88990200 发表于 2012-10-25 09:11
@L_kernel记录不是定长的,awk是否可以指定记录分隔符?
当然可以的。RS这个变量。

论坛徽章:
0
10 [报告]
发表于 2012-10-25 11:34 |只看该作者
awk -v RS='~\\^' 1 urfile
已经OK了,谢谢。


用RS='~^'不行,RS='~\\^' 就可以了
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP