论坛徽章:: 0

电梯直达

1楼 [收藏(0)] [报告]

发表于 2011-12-23 02:32 |只看该作者 |倒序浏览

<div>                                                                           ---提交者：牛庆亚 我们小组最近主要对百度研发部的文章《使用 hadoop 进行大规模数据的全局排序》进行了研读，并进行了讨论。 文档下载： <a href=".http://blog.chinaunix.net/attachment/attach/24/67/70/8724677087d1372eefe81735e07e32252824f3bcda.pdf" target="_blank" target="_blank"><img src="/blog/image/attachicons/common.gif" align="absmiddle" border="0"> hadoopsort2.pdf </a>  </div>
<div> 下面是文章中的一些重点： 1 Map和reduce</div>
<div>    天下大事，分久必合、合久必分。</div>
<div>    所谓分布式计算，就是把一大堆用于计算的数据材料切了，扔到多个锅里，该焯水的焯水，该油炸的油炸。然后都准备的差不多了，按着一定的先后顺序，比如不好熟的先放，好熟的后放，一块下锅，炒成一盘菜出来，端来上桌。</div>
<div>    以上的步骤，就是map，分发。Map的作用就是把输入数据打散，做简单才处理，输出。而hadoop则要先把中间数据排序，这个成为shuffle，然后由reduce把中间数据合并到一起。把最终结果输出。</div>
<div>    举个简单的例子：统计局要根据数据库内身份证号获得全国每个地市人口，这个任务落到你的头上了，你应该先把所有的身份证号导出到文件中，每行一个，然后把这些文件交给map。Map中的要做的就是截取身份证号的前面六位，把这六位数字直接输出。然后hadoop 会把这些身份证号的前六位排序，把相同的数据都排到一起，交给reduce，reduce判断每次输入的号码是否与上一个处理的相同，相同则累加，不同则把之前的号码，和统计的数值输出。这样，你就获得了各地市的人口数统计。</div>
<div><a href="http://blog.chinaunix.nethttp://blog.chinaunix.net/attachment/201110/30/24677087_1319975463vluj.jpg" target="_blank" target="_blank"><img src="http://blog.chinaunix.nethttp://blog.chinaunix.net/attachment/201110/30/24677087_1319975463vluj.jpg" .load="imgResize(this, 650);" ;="" border="0"></a></div>
<div>
    上图是MapReduce的数据处理视图。分为map，shuffle，reduce三个部分。各map任务读入切分后的大规模数据进行处理并将数据作为一系列key:value对输出，输出的中间数据按照定义的方式通过shuffle程序分发到相应的reduce任务。Shuffle程序还会按照定义的方式对发送到一个reduce任务的数据进行排序。Reduce进行最后的数据处理。
2 hadoop应用实例：大规模数据的排序
    Hadoop平台没有提供全局数据排序，而在大规模数据处理中进行数据的全局排序是非常普遍的需求。大量的将大规模数据任务切分成小数据规模的数据。处理任务都必须先将大规模数据进行全局排序。例如处理两组大的数据集的属性合并，可以对两组数据进行全局排序然后分解成一系列小的二路归并问题实现。
2.1应用hadoop进行大规模数据全局排序的方法

   
     使用hadoop进行大量的数据排序排序最直观的方法是把文件所有内容给map之后，map不做任何处理，直接输出给一个reduce，利用hadoop的自己的shuffle机制，对所有数据进行排序，而后由reduce直接输出。
    然而这样的方法跟单机毫无差别，完全无法用到多机分布式计算的便利。因此这种方法是不行的。
利用hadoop分而治之的计算模型，可以参照快速排序的思想。在这里我们先简单回忆一下快速排序。快速排序基本步骤就是需要现在所有数据中选取一个作为支点。然后将大于这个支点的放在一边，小于这个支点的放在另一边。
    设想如果我们有N个支点（这里可以称为标尺），就可以把所有的数据分成N+1个part，将这N+1个part丢给reduce，由hadoop自动排序，最后输出N+1个内部有序的文件，再把这N+1个文件首尾相连合并成一个文件，收工。
由此我们可以归纳出这样一个用hadoop对大量数据排序的步骤：
1）  对待排序数据进行抽样；
2）  对抽样数据进行排序，产生标尺；
3）  Map对输入的每条数据计算其处于哪两个标尺之间；将数据发给对应区间ID的reduce
4）  Reduce将获得数据直接输出。
这里使用对一组url进行排序来作为例子：
<a href="http://blog.chinaunix.nethttp://blog.chinaunix.net/attachment/201110/30/24677087_1319975903G7BG.jpg" target="_blank" target="_blank"><img src="http://blog.chinaunix.nethttp://blog.chinaunix.net/attachment/201110/30/24677087_1319975903G7BG.jpg" .load="imgResize(this, 650);" ;="" border="0"></a>
 
    这里还有一点小问题要处理：如何将数据发给一个指定ID的reduce？hadoop提供了多种分区算法。这些算法根据map输出的数据的key来 确定此数据应该发给哪个reduce（reduce的排序也依赖key）。因此，如果需要将数据发给某个reduce，只要在输出数据的同时，提供一个 key（在上面这个例子中就是reduce的ID+url），数据就该去哪儿去哪儿了。
2.2注意事项
1）<span style="FONT-FAMILY: 'Liberation Serif'; FONT-SIZE: 10.5pt; mso-fareast-font-family: 'AR PL KaitiM GB'; mso-hansi-font-family: 'Liberation Serif'; mso-bidi-font-family: 'Lohit Hindi'; mso-font-kerning: .5pt; mso-bidi-language: HI; mso-ansi-language: EN-US; mso-fareast-language: ZH-CN"> <span style="FONT-FAMILY: 'AR PL KaitiM GB'; FONT-SIZE: 10.5pt; mso-ascii-font-family: 'Liberation Serif'; mso-hansi-font-family: 'Liberation Serif'; mso-bidi-font-family: 'Lohit Hindi'; mso-font-kerning: .5pt; mso-bidi-language: HI; mso-ansi-language: EN-US; mso-fareast-language: ZH-CN">标尺的抽取应该尽可能的均匀，这与快速排序很多变种算法均是强调支点的选取是一致
<span style="FONT-FAMILY: 'AR PL KaitiM GB'; FONT-SIZE: 10.5pt; mso-ascii-font-family: 'Liberation Serif'; mso-hansi-font-family: 'Liberation Serif'; mso-bidi-font-family: 'Lohit Hindi'; mso-font-kerning: .5pt; mso-bidi-language: HI; mso-ansi-language: EN-US; mso-fareast-language: ZH-CN">3 总结<span style="FONT-FAMILY: 'AR PL KaitiM GB'; FONT-SIZE: 10.5pt; mso-ascii-font-family: 'Liberation Serif'; mso-hansi-font-family: 'Liberation Serif'; mso-bidi-font-family: 'Lohit Hindi'; mso-font-kerning: .5pt; mso-bidi-language: HI; mso-ansi-language: EN-US; mso-fareast-language: ZH-CN">
    Hadoop实际是一种以数据为驱动的计算模型，结合MapReduce和HDFS，将任务运行在数据存放的计算节点上，充分利用了计算节点的存储和计算资源，同时也大大节省了网络传输数据的开销。
Hadoop提供了简便利用集群进行并行计算的平台。各种可以隔离数据集之间相关性的运算模型都能够在Hadoop上被良好应用。之后会有更多的利用Hadoop实现的大规模数据基础计算方法的介绍。
参考：<a href="http://stblog.baidu-tech.com/?p=397" target="_blank" target="_blank">http://stblog.baidu-tech.com/?p=397</a>
 
</div>

文库|博客

返回列表

Chinaunix › 论坛 › 数据库技术 › NoSQL技术 › 基于hadoop 的大规模数据排序-万虎组-第三次

[Hadoop&HBase] 基于hadoop 的大规模数据排序-万虎组-第三次 [复制链接]