免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
12下一页
最近访问板块 发新帖
查看: 19786 | 回复: 15

【IT名人堂】专访阿里资深专家强琦:独家揭秘阿里双11高并发负载背后的核心技术 [复制链接]

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152014年中国系统架构师大会
日期:2015-06-05 16:54:182011年中国系统架构师大会
日期:2015-06-05 16:54:392012年中国系统架构师大会
日期:2015-06-05 16:54:392013年中国系统架构师大会
日期:2015-06-05 16:54:39
发表于 2014-11-28 17:32 |显示全部楼层


大家好,我是主持人皮皮,欢迎做客IT名人堂栏目。今年的淘宝双11交易额达到了惊人的571亿,特别在零点以后,支撑每秒7万笔的瞬时订单,相比于去年花6个小时完成100亿的战绩,今年只用了38分钟,我相信这是一个世界纪录。这疯狂的数字背后,无疑马云乐开了花,更让我们对阿里的技术团队佩服得五体投地,双11的实时大屏用到了哪种新技术?阿里是如何做到海量数据的高并发负载?在大数据、云计算领域,到底哪些核心产品和技术为阿里双十一发挥了保驾护航的作用呢?第112期名人堂我们重邀阿里专家强琦坐镇,为我们独家揭秘双11背后的技术故事。



皮皮(Q1):您好!非常感谢您参与我们IT名人堂的采访,请简单介绍下自己。


和仲(A1):我叫强琦。花名和仲。之前的研究方向是机器学习基础理论,毕业后一直从事搜索技术的研发,12年进入阿里后也一直在搜索和广告技术领域,之后来到阿里巴巴集团数据平台事业部致力于打造大数据的基础设施。对机器学习,分布式计算,搜索广告技术都有浓厚的兴趣。希望为阿里的大数据基础设施建设贡献自己的力量,见证阿里大数据改变世界的那一天,有机会让全球用户分享与共建阿里数据以及阿里数据基础设施。



皮皮(Q2):阿里刚上市不久,今年的淘宝双11交易额达到了惊人的571亿,可喜可贺。特别在零点以后,支撑每秒7万笔的瞬时订单,我相信这是一个世界纪录。那在这些光鲜数据的背后,其实也是对淘宝数据库的极大考验。请问从技术上,阿里是如何做到承受如此庞大的数据库并发负载?


和仲(A2):总体而言,对阿里而言,双十一面临着两方面压力,一个是对数据库的压力,这部分压力大家相对比较清楚。另一个就是对数据处理平台的挑战,这块大家不是很清楚。双11不仅会出现大量的瞬时压力,还会伴随着大量的数据倾斜,这对分布式系统来说挑战很大。对于实时计算来说挑战更大,一方面因为它对用户的计算承诺是秒级别,一旦出现问题和延时会马上表现出来,这样留给系统调控的空间就非常小。大家都知道,分布式计算任务的速度受限于最慢的结点,而大量的数据倾斜不仅会拖慢任务的时效性,严重的情况下甚至会导致结点超时,在带宽吃紧的情况下可以引发系统性雪崩。那我们采取了哪些应急方案呢?一方面我们通过任务改写来尽量平摊数据倾斜对计算结点的压力;其二,系统通过主动申请延时加长的方法,避免“误伤”超时;最后通过计算旁路的方法来减少流量的影响。其实,分布式计算除了常规的扩展性,failover等技术处理之外,突发热点,长尾和计算倾斜都是非常大的挑战。另外,我们大家之前讲到更多是功能层面,但其实业务数据质量方面也是生死攸关的问题,阿里有丰富经验的数据质量团队,包括在离线数据质量,实时数据质量等方面都有丰富的沉淀与产出。



皮皮(Q3):双十一阿里38分钟交易额破百亿,近半数为手机支付,阿里就已经开始了客户端容器移动化的改造,逐步完成从集中式研发到大规模并行开发、灵活集成模式的转换,能不能和我们分享下阿里的双十一移动端在大数据、云计算领域都用到了哪些核心的产品和技术?


和仲(A3):其实,无论是pc端还是移动端,对后台而言,在技术的要求上基本类似。如果要说移动端对数据处理有哪些特殊的影响的话,那么实时在线的特性肯定会使得数据量激增,从目前的情况来看,我们移动端产生的数据已经远超PC端了;由于移动端App同时存在多版本的情况,这也使得数据处理在兼容多版本方面需要做很多考虑;同时移动端的欺诈检测,反作弊也有自己的特点。移动端基本上会与PC端共享云计算和大数据的核心技术,但与此同时会有一些独特的技术和产品体系。



皮皮(Q4):据说天猫、淘宝、支付宝的大数据处理,都是基于阿里云计算的大数据处理平台ODPS完成,为天猫双十一的商品个性化推荐提供了技术支持。而谈到阿里云ODPS,有这么一组数字,ODPS可在6小时内处理100PB数据,相当于1亿部高清电影。能否从ODPS的架构角度,结合阿里双十一为我们谈谈它的具体应用?


和仲(A4):ODPS现在基本上已经统一了全阿里的数据处理以及应用场景。从传统的数据仓库、BI、数据应用、数据挖掘乃至机器学习等都在基于ODPS。另外,在实时计算方面也不断涌现出了新的计算体系,包括Galaxy和Ads等,其应用也在不断加强。集群规模现在也在不断扩大,其处理能力每秒也突破千亿级别。比如大家比较熟悉的双11大屏,这些指标是能够影响市场的,容不得半点数据问题和延时。我们会考虑到数据链路的所有环节,必须做到完全的容错和容灾。有些计算指标是多流join,这对性能和容错挑战是非常大的。大家看到大屏幕上数字不断跳跃,其背后是大量的资源和技术智力的积累。再比如ads,它的创新技术可以使得原来分析数百亿甚至数千亿数据的时间从小时,分钟直接到秒,毫秒。这块已经对外开放使用,欢迎大家试用。



皮皮(Q5):此次双十一备战,阿里可谓是卯足了劲。阿里推出的实时数据计算平台Galaxy据说目前每秒可运算数据超过500万条,那它究竟是如何做到的呢?在双十一中这款计算平台究竟发挥了哪些作用?


和仲(A5)Galaxy是一个增量计算平台,它建立了一个通用的增量计算框架(MapReduceMerge,后简称MRM),流计算只是一种增量的计算形式,在此之上构建了算子层和sql层,这就使得业务能够快速开发实时任务。值得一提的是,增量计算和批量计算根本的区别在于它是有状态的计算,那么问题来了!

有状态计算如果引入全局强一致存储,会带来极大的性能问题。Galaxy-MRM引入内存snapshot来解决性能问题,同时利用checkpoint来保证容错的问题。其实,实时计算最复杂的还是在处理多流join的问题,当在非常多key来做join并且出现数据倾斜的情况下,会对性能产生非常大的挑战。这就需要引入前面所述的一些技术来避免性能和雪崩。有趣的是在增量计算框架下实现的机器学习和MPP会具备实时的交互式的体验,这一点是spark也不具备的本质能力。除了双11所有媒体看到的实时大屏之外,内部运营,业务所涉及到的实时计算指标有400多个job。这些job每秒中都在不断更新最新的数据计算。


非常感谢和仲为我们带来的精彩分享,希望大家能够积极互动,就自己所关心的话题提问,与大师交流心得。截止12月18日,我们将评选获奖会员五名,赠送技术图书一本。


论坛徽章:
1
天蝎座
日期:2014-07-20 17:37:17
发表于 2014-11-30 08:42 |显示全部楼层
有些看不太懂……

就问一个:“任务改写”如何实现?

论坛徽章:
31
CU大牛徽章
日期:2013-05-20 10:45:13每日论坛发贴之星
日期:2015-09-07 06:20:00每日论坛发贴之星
日期:2015-09-07 06:20:00数据库技术版块每日发帖之星
日期:2015-12-13 06:20:0015-16赛季CBA联赛之江苏
日期:2016-03-03 11:56:13IT运维版块每日发帖之星
日期:2016-03-06 06:20:00fulanqi
日期:2016-06-17 17:54:25IT运维版块每日发帖之星
日期:2016-07-23 06:20:0015-16赛季CBA联赛之佛山
日期:2016-08-11 18:06:41JAVA
日期:2016-10-25 16:09:072017金鸡报晓
日期:2017-01-10 15:13:292017金鸡报晓
日期:2017-02-08 10:33:21
发表于 2014-11-30 12:26 |显示全部楼层
这个采访话题中,有几个内容不是很理解。想问问:

1)皮皮提到了“阿里就已经开始了客户端容器化的改造”,请问什么是客户端容器化?客户端容器化是如何改造的?
2)强琦专家提到阿里的移动端的欺诈检测,我想问问阿里移动端的欺诈检测有哪些手段?能否详细一点。
3)强琦专家提到数据倾斜,这个术语我也不理解。请问什么是数据倾斜?
4)我对阿里推出的实时数据计算平台Galaxy很好奇,想问一下,阿里有哪些业务用到了这个平台?具体是怎么做的?

问题有点多,不好意思,期盼强琦专家的解答。

论坛徽章:
1
数据库技术版块每日发帖之星
日期:2016-04-28 14:27:11
发表于 2014-12-01 11:57 |显示全部楼层
大家好,我是著名主持人皮皮。。。


一方面我们通过任务改写来尽量平摊数据倾斜对计算结点的压力

这个平衡,是作业服务器主观上平衡,还是根据各个节点的当前的压力状态去平衡?

论坛徽章:
9
2015亚冠之大阪钢巴
日期:2015-06-04 11:47:30丑牛
日期:2015-01-22 15:49:26巳蛇
日期:2015-01-22 10:11:18巨蟹座
日期:2014-11-20 10:55:03天蝎座
日期:2014-11-16 22:10:26处女座
日期:2014-11-16 11:01:10申猴
日期:2014-09-19 11:12:37双鱼座
日期:2014-07-25 10:09:54程序设计版块每日发帖之星
日期:2015-08-24 06:20:00
发表于 2014-11-28 21:47 |显示全部楼层
high big up

论坛徽章:
3
季节之章:冬
日期:2015-01-15 10:36:57IT运维版块每日发帖之星
日期:2015-09-24 06:20:00IT运维版块每日发帖之星
日期:2015-10-24 06:20:00
发表于 2014-11-28 23:13 |显示全部楼层
看不懂。。。。

论坛徽章:
19
处女座
日期:2014-07-18 14:50:5415-16赛季CBA联赛之北京
日期:2019-09-16 15:39:1415-16赛季CBA联赛之上海
日期:2019-09-15 15:29:0415-16赛季CBA联赛之山西
日期:2017-03-09 10:58:232017金鸡报晓
日期:2017-02-08 10:33:212017金鸡报晓
日期:2017-01-10 15:13:2915-16赛季CBA联赛之深圳
日期:2016-12-15 17:55:53C
日期:2016-10-25 16:00:1515-16赛季CBA联赛之新疆
日期:2016-07-21 14:02:0415-16赛季CBA联赛之江苏
日期:2016-06-30 12:15:04shanzhi
日期:2016-06-17 17:59:31平安夜徽章
日期:2015-12-26 00:06:30
发表于 2014-11-29 21:42 |显示全部楼层
“双十一面临着两方面压力,一个是对数据库的压力”,阿里使用的是自己开发的数据库,还是MySQL?

论坛徽章:
3
白羊座
日期:2014-08-25 15:04:112014年中国系统架构师大会
日期:2014-10-14 15:59:002015元宵节徽章
日期:2015-03-06 15:52:30
发表于 2014-11-30 17:21 来自手机 |显示全部楼层
请问一下,阿里的云,是用什么技r术,是现在网上流行的还是自己开发的

论坛徽章:
5
2015年辞旧岁徽章
日期:2015-03-03 16:54:152014年中国系统架构师大会
日期:2015-06-05 16:54:182011年中国系统架构师大会
日期:2015-06-05 16:54:392012年中国系统架构师大会
日期:2015-06-05 16:54:392013年中国系统架构师大会
日期:2015-06-05 16:54:39
发表于 2014-12-01 14:30 |显示全部楼层
容器移动化改造回复 6# jieforest


   

论坛徽章:
9
寅虎
日期:2014-06-03 14:10:05午马
日期:2015-01-08 16:49:52白羊座
日期:2015-01-16 12:58:182015年迎新春徽章
日期:2015-03-04 09:57:092015元宵节徽章
日期:2015-03-06 15:51:33NBA常规赛纪念章
日期:2015-05-04 22:32:03IT运维版块每日发帖之星
日期:2015-08-04 06:20:0015-16赛季CBA联赛之北京
日期:2015-12-14 09:40:0315-16赛季CBA联赛之青岛
日期:2016-07-25 11:23:07
发表于 2014-12-01 14:34 |显示全部楼层
真的是看不懂……
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

SACC2019中国系统架构师大会

【数字转型 架构演进】SACC2019中国系统架构师大会,8.5折限时优惠重磅来袭!
2019年10月31日~11月2日第11届中国系统架构师大会(SACC2019)将在北京隆重召开。四大主线并行的演讲模式,1个主会场、20个技术专场、超千人参与的会议规模,100+来自互联网、金融、制造业、电商等领域的嘉宾阵容,将为广大参会者提供一场最具价值的技术交流盛会。

限时8.5折扣期:2019年9月30日前


----------------------------------------

大会官网>>
  

北京盛拓优讯信息技术有限公司. 版权所有 16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122
中国互联网协会会员  联系我们:huangweiwei@it168.com
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP