惊!阿里双11数据中心来了一位顶级“刺客”?

来源:互联网 发布:淘宝号权重查询 编辑:程序博客网 时间:2024/04/25 16:49

早上好!阿里妹来考大家一道数学题:有10万件大小不同的商品,要平均放到1万个箱子里,应该如何分配?


对于聪明的你来说,这还是一个可解的问题。但是!如果问题更难一点:这10万件商品会随时变大变小,而且还有“矿泉水不能压在薯片上”等一大堆限制条件,如何在几秒钟内给出最均衡的装箱方案?



阿里巴巴的工程师每天都会面对这类问题。无数个应用对服务器的需求每时每刻都在变化,还有新的应用不断加入,如何才能把这些应用均衡的分配到数万台不同规格的机器上。


为了解放人类工程师并能够更好的分配计算资源,11月6日,阿里巴巴计算资源AI分配官“达灵”正式上任,准备迎接天猫双11的挑战。



实习期间,达灵将数据中心资源分配率拉升到了90%以上,在部分业务中节省了一半服务器,并且可以2秒钟锁定异常机器,命中率94%。



 减少机械重复工作 为阿里节省一半机器


打开手机淘宝,首页可以看到“有好货”、“猜你喜欢”等这样的常用功能模块。以前,要人工为每一个模块分配服务器数量以及监督运行情况。对于工程师来说,挑战巨大。


“伴随双11规模的逐年暴涨,这样的工作已经不适合人来做了。” 阿里巴巴资深搜索研发专家郑南说。为此,阿里巴巴搜索团队对“达灵”进行了大量训练和工程化,在实习期“达灵”就完全替代了人工,在推荐平台智能调度方面将资源分配率提高了一倍,这相当于节省了一半的机器。



 “这套算法能够快速给出最优的部署方案,并且根据访问量不断搬运应用和数据,确保没有一台机器偷懒”。郑南说,我们要做的就是不断用数据喂养她,提供表格数据大小、访问量以及目前的部署方案等信息,省下的就是喝着茶看她的表演。“她甚至可以在线上克隆一个真实的服务,自己进行压力测试,以判断方案是否最优。”


只需2秒钟,隔离异常机器准确率94%


阿里巴巴遍布全球的数据中心如果有一台机器发生异常,未被及时处理,会带来什么损失?天猫双11期间,可能会是近百万用户下单失败。


为了避免这种情况,每年双11都会有大量的工程师紧盯着集群的健康情况。如果发现有不正常的机器,马上进行手工隔离,甚至直接下线,业内俗称“杀机器”。



但从出现异常、被发现到处理完成,整个过程有时会长达数分钟。阿里巴巴调度系统资深专家丁宇说,“之前我们已经做到了人能够做的极限。去年,我们开始探索用人工智能技术寻求突破,把时间、负载、服务状态等不确定因素通过数据算法关联,最终找到了问题的解法”。


今年丁宇团队和“达灵”合作,对“达灵”进行深度改装,实现了对异常机器更精准、快速的探测。算法每天会采集29亿条机器运营状态,在之前的测试中,日均处理异常机器1000次左右,在大促期间调度准确率达到94%,时间只需要2秒钟。一发现异常机器,立刻精准出手,绝不含糊,可谓顶级“刺客”。


从仓库到数据中心  天猫双11 AI满地跑  


 “其实达灵的前身真的是仓库管理员,就是为了解决包裹装箱的难题”,阿里巴巴iDST机器学习算法负责人朱胜火博士透露。

一年前,iDST和菜鸟网络的算法工程师共同研发了一套算法,能够在顾客下单的瞬间,对商品的属性、数量、重量、体积,甚至摆放的位置都综合进行计算,可迅速地与箱子的长宽高和承重量进行匹配,并且计算出需要的几个箱子,商品在箱子里面如何摆放最节省包装。整个计算过程,不足1秒。


AI介入后,菜鸟网络的仓库较过去减少5%以上的包装材料。这是什么概念呢?以2015年天猫双11当天产生的约4.67亿包裹数来算,如果用上这个技术,一天能节省2300万个箱子。技术解读详情可看:世界级难题:把不同物品装进箱子,如何使箱子表面积最小?


朱胜火介绍,基于同样的理念,我们将这套算法带到了数据中心,研发出了达灵。达灵的工作首先是在集群监控数据之上,建立起很多个深度学习、在线学习的模型,由此对集群内每一台机器、每一个应用,当前和未来的状态都了然于胸。在此基础上,达灵通过应用强化学习、组合优化等技术,可以在复杂环境中自行学习判断,作出一系列比如错峰排布、碎片规整等聪明的决策,从而全局最优化集群的资源分配率以及稳定性。


除了“达灵”以外,机器运营小二、机器导购员、智能客服、AI设计师、机器拣货员、机房巡逻员等新物种已在天猫双11前夕集中上岗,我们不妨一起来重温下~



最后的问题来了——在这些神奇的智能机器人背后,具体的实现原理是什么?别着急,近期,阿里妹将会邀请双11技术团队的核心成员,为大家做一系列深入解读与分享。敬请期待哦~



你可能还喜欢

点击下方图片即可阅读



中国首个!阿里巴巴获机器视觉顶级会议ACM MM2020主办权



技术变化那么快,程序员如何做到不被淘汰?


加班越久故障越多,如何跳出程序员的恶性循环?




关注「阿里技术」

把握前沿技术脉搏

阅读全文
0 0
原创粉丝点击