免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 1459 | 回复: 2
打印 上一主题 下一主题

[服务应用] 关于hadoop里配置的疑问 [复制链接]

论坛徽章:
71
15-16赛季CBA联赛之同曦
日期:2018-08-23 15:41:42辰龙
日期:2014-08-15 09:07:43狮子座
日期:2014-06-03 13:55:33亥猪
日期:2014-06-02 11:17:08巨蟹座
日期:2014-05-06 10:02:03午马
日期:2014-05-04 08:18:27亥猪
日期:2014-04-29 11:11:32技术图书徽章
日期:2014-04-24 15:51:26技术图书徽章
日期:2014-04-17 11:01:53辰龙
日期:2014-04-15 12:45:46亥猪
日期:2014-04-11 09:06:23射手座
日期:2014-04-01 15:28:10
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2014-01-15 17:40 |只看该作者 |倒序浏览
mapred-site.xml里:
mapred.output.compression.codec代表输出结果所使用的编解码器,也可以用gz或者bzip2或者lzo或者snappy等
我想问的问题是,这个值能否设置2个或多个,如这样设置:
     <property>
     <name>mapreduce.map.output.compress.codec</name>
     <value>com.hadoop.compression.lzo.LzoCodec,org.apache.hadoop.io.compress.SnappyCodec</value>
     </property>
谢谢

论坛徽章:
71
15-16赛季CBA联赛之同曦
日期:2018-08-23 15:41:42辰龙
日期:2014-08-15 09:07:43狮子座
日期:2014-06-03 13:55:33亥猪
日期:2014-06-02 11:17:08巨蟹座
日期:2014-05-06 10:02:03午马
日期:2014-05-04 08:18:27亥猪
日期:2014-04-29 11:11:32技术图书徽章
日期:2014-04-24 15:51:26技术图书徽章
日期:2014-04-17 11:01:53辰龙
日期:2014-04-15 12:45:46亥猪
日期:2014-04-11 09:06:23射手座
日期:2014-04-01 15:28:10
2 [报告]
发表于 2014-01-17 09:01 |只看该作者
有明白的吗???

论坛徽章:
1
2015年辞旧岁徽章
日期:2015-03-03 16:54:15
3 [报告]
发表于 2014-01-19 22:02 |只看该作者
你可以把编码器写到core-site.xml文件,如
  1. <property>
  2.     <name>io.compression.codecs</name>
  3.     <value>org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.DefaultCodec,com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec,org.apache.hadoop.io.compress.BZip2Codec</value>
  4.   </property>
  5.   <property>
  6.     <name>io.compression.codec.lzo.class</name>
  7.     <value>com.hadoop.compression.lzo.LzoCodec</value>
  8.   </property>
复制代码
然后把它加入mapred-site.xml,如
  1. <property>
  2.     <name>mapreduce.map.output.compress</name>
  3.     <value>true</value>
  4.   </property>
  5.   <property>
  6.     <name>mapreduce.map.output.compress.codec</name>
  7.     <value>com.hadoop.compression.lzo.LzoCodec</value>
  8.   </property>
复制代码
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP