免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1521 | 回复: 3
打印 上一主题 下一主题

[文本处理] awk处理时候的管道问题 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-10-24 16:52 |只看该作者 |倒序浏览
形式一:
for file in $(cat fileList)
do
cat $file | awk 'do sth' >> res
done

形式二:
for file in $(cat fileList)
do
cat $file
done | awk 'do sth' > res

请问:
形式一是打开fileList中的每个文件,然后awk处理,将处理结果追加到res文件中。它对文件的处理是一个一个的处理的,占用内存小。
形式二是打开fileList中所有的文件,然后用awk处理呢;还是一个一个的打开用awk处理。它对文件的处理是一个一个的,还是全部一起处理?如果所有文件一起打开awk处理的话,占用内存比较大。我的fileList中包含的文件特别多,我担心形式二的处理方式会因为占用内存过大,导致服务器挂了。

论坛徽章:
23
15-16赛季CBA联赛之吉林
日期:2017-12-21 16:39:27白羊座
日期:2014-10-27 11:14:37申猴
日期:2014-10-23 08:36:23金牛座
日期:2014-09-30 08:26:49午马
日期:2014-09-29 09:40:16射手座
日期:2014-11-25 08:56:112015年辞旧岁徽章
日期:2015-03-03 16:54:152015年迎新春徽章
日期:2015-03-04 09:49:0315-16赛季CBA联赛之山东
日期:2017-12-21 16:39:1915-16赛季CBA联赛之广东
日期:2016-01-19 13:33:372015亚冠之山东鲁能
日期:2015-10-13 09:39:062015亚冠之西悉尼流浪者
日期:2015-09-21 08:27:57
2 [报告]
发表于 2014-10-24 16:55 |只看该作者
回复 1# wy200747055


awk 都是一行一行处理的,不会占用很多内存,除非你用数组存储了文件中的所有记录。

论坛徽章:
32
处女座
日期:2013-11-20 23:41:20双子座
日期:2014-06-11 17:20:43戌狗
日期:2014-06-16 11:05:00处女座
日期:2014-07-22 17:30:47狮子座
日期:2014-07-28 15:38:17金牛座
日期:2014-08-05 16:34:01亥猪
日期:2014-08-18 13:34:25白羊座
日期:2014-09-02 15:03:55金牛座
日期:2014-11-10 10:23:58处女座
日期:2014-12-02 09:17:52程序设计版块每日发帖之星
日期:2015-06-16 22:20:002015亚冠之塔什干火车头
日期:2015-06-20 23:28:22
3 [报告]
发表于 2014-10-24 18:03 |只看该作者
那就用方式一呗~{:3_193:}

论坛徽章:
2
射手座
日期:2014-10-10 15:59:4715-16赛季CBA联赛之上海
日期:2016-03-03 10:27:14
4 [报告]
发表于 2014-10-24 21:25 |只看该作者
awk 本身就可以应付多文件的操作,干嘛还要用for循环呢
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP