免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
楼主: sck940210
打印 上一主题 下一主题

[Spark] 你不知道的Spark,将来会替代Hadoop? [复制链接]

论坛徽章:
78
双子座
日期:2013-10-15 08:50:09天秤座
日期:2013-10-16 18:02:08白羊座
日期:2013-10-18 13:35:33天蝎座
日期:2013-10-18 13:37:06狮子座
日期:2013-10-18 13:40:31双子座
日期:2013-10-22 13:58:42戌狗
日期:2013-10-22 18:50:04CU十二周年纪念徽章
日期:2013-10-24 15:41:34巨蟹座
日期:2013-10-24 17:14:56处女座
日期:2013-10-24 17:15:30双子座
日期:2013-10-25 13:49:39午马
日期:2013-10-28 15:02:15
1 [报告]
发表于 2015-10-29 18:58 |显示全部楼层
本帖最后由 yybmsrs 于 2015-10-29 18:59 编辑

1. 有人说Spark就是内存版的MapReduce,对此你怎么看?
差不多,shuffle的时候中间数据放到内存,放不下才写文件。同时spark的抽象程度更高,不仅仅只有map和reduce。

2. 有人说Spark将来会替代Hadoop,你又怎么看?
spark是个生态系统,hadoop也是一个生态系统,不存在谁取代谁,只能说spark会取代mr。其他如hdfs,yarn都是
通用的。


另外,这两个问题实在是没什么可以多说的,虽然我很想要这本书

论坛徽章:
78
双子座
日期:2013-10-15 08:50:09天秤座
日期:2013-10-16 18:02:08白羊座
日期:2013-10-18 13:35:33天蝎座
日期:2013-10-18 13:37:06狮子座
日期:2013-10-18 13:40:31双子座
日期:2013-10-22 13:58:42戌狗
日期:2013-10-22 18:50:04CU十二周年纪念徽章
日期:2013-10-24 15:41:34巨蟹座
日期:2013-10-24 17:14:56处女座
日期:2013-10-24 17:15:30双子座
日期:2013-10-25 13:49:39午马
日期:2013-10-28 15:02:15
2 [报告]
发表于 2015-11-03 18:41 |显示全部楼层
用到的概念接近就直接拿来开发了,scala方便点吧
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP