免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3518 | 回复: 4
打印 上一主题 下一主题

[文本处理] awk如何获得hadoop streaming中的map_input_file环境变量 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-02-07 13:48 |只看该作者 |倒序浏览

awk如何获得hadoop streaming中的map_input_file环境变量?

论坛徽章:
6
摩羯座
日期:2013-12-27 09:45:04技术图书徽章
日期:2014-01-27 12:40:06辰龙
日期:2014-02-28 15:12:52巳蛇
日期:2014-03-21 17:06:27未羊
日期:2014-04-15 20:12:41黑曼巴
日期:2016-08-02 11:00:06
2 [报告]
发表于 2014-02-07 15:07 |只看该作者
回复 1# silentfly1987


    LZ能解释一下hadoop streaming是啥么么?好高级的东西撒

论坛徽章:
145
技术图书徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11狮子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龙
日期:2014-01-08 15:26:12技术图书徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [报告]
发表于 2014-02-07 15:20 |只看该作者
回复 1# silentfly1987

1. system environment
$ echo "(shell) HOME=$HOME"; awk 'BEGIN{print "(awk) HOME="ENVIRON["HOME"]}'
(shell) HOME=/home/jason
(awk) HOME=/home/jason


2. user environment

$ export env=123; echo "(shell) env=$env"; awk 'BEGIN{print "(awk) env="ENVIRON["env"]}'
(shell) env=123
(awk) env=123

   

论坛徽章:
0
4 [报告]
发表于 2014-02-07 15:56 |只看该作者
赞!
回复 3# jason680


   

论坛徽章:
0
5 [报告]
发表于 2014-02-07 16:00 |只看该作者
回复 2# laliheyi

hadoop是一种分布式处理的框架,本来是需要用java写map-reduce程序的。
我理解的streaming是对hadoopo做了一层封装,让我们可以用shell、python等脚本语言来写map-reduce程序。


   
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP