王宝强离婚事件的洪荒之力，新浪微博怎样靠技术支撑？

之前微博曾披露过他们已经迁移到基于Docker容器的混合云平台DCP,那对于这样的突发热点,DCP是如何应对的?Docker容器可以进行秒级扩容,那为什么还会有短暂的服务被打死情况发生?DCP整个的弹性伸缩流程是怎么样的?带着这些问题,InfoQ记者采访了微博Container平台弹性伸缩负责人王关胜.

奥运期间热点事件对微博服务的冲击

奥运期间因为王宝强的离婚事件,让微博的流量大增,甚至部分服务被短暂打死.详细情况是怎样的?

王关胜：自16年里约奥运会开幕式开始,微博整体流量增幅明显,相较于往常增长数倍,造成了白天跟日常晚高峰一样的持续峰值场景.更甚的是,奥运期间还有赛事的热点及明星事件的冲击,给微博平台的服务带来数倍于日常峰值的流量请求.

其中在孙杨PK霍顿、奥运网红傅园慧的“洪荒之力”、王宝强事件、女排夺冠等热点中,尤以宝强事件的影响最为巨大.大家可以去看一下宝强发布离婚声明的微博互动数据,非常惊人；再来看看流量数据：

图1：微博,评论及Feed业务量

图2：话题业务量

可以看到,这次事件对微博的核心服务如Feed、评论、话题等带来的压力都是成倍的,已经超过16年春晚,为历史新高点.仔细分析一下,可以发现这种事件基本可以分为：发生期、发酵期、暴涨期、缓解期.

而暴涨期一般都是内部运营部门的push引来爆点,此时对于服务的容量冗余要求极高,虽然DCP已经弹性扩容了大批Container,但Java的服务初启动,会有线程池及连接资源预热的过程,此时会有一点慢的现象,也可以理解为瞬时流量短暂打死.

微博目前用户基数庞大,DAU和MAU均为数亿.从整个技术体系来看,微博核心总体分为端和后端平台,端上主要是PC端,移动端,开放平台以及企业开放平台.后端平台主要是Java编写的各种接口层、服务层、中间件层及存储层.除此之外,微博搜索、推荐、广告、大数据平台也是非常核心的产品.从业务角度看,整体架构图如下：

我们团队主要负责的微博平台的业务与保障,平台在2015年的部署架构如下：

就平台前端来说,每日超过千亿次的API调用、超过万亿的RPC调用,产生的日志就达百T+.对于这么大体量的业务系统,对于运维的要求也很严格；就接口层来说,SLA必须达到4个9,且接口平均响应时间不能高于50ms.因此我们会面临各种各样的挑战.

当时面对这样的突发情况,新浪微博是如何应对的?有哪些是没有考虑的的情况?

王关胜：微博对于服务的稳定性要求很高,在奥运开始前,微博平台已经启动了线上服务保障相关的准备工作,也建立了奥运期间的早晚班值班机制,以防止突发情况出现.在日常的峰值场景中,微博的混合云DCP平台可以做到无人值守的进行服务的弹性伸缩.

从热点事件的业务流量图可以看出：到达爆点之前一般会有发酵期,而我们的容量决策系统会实时的监测业务量变化,根据服务冗余情况决定是否自动伸缩,再根据一定的配比去弹性扩容,

缩容.当宝强事件爆点出来时,DCP已经提前扩容了一批业务container,但是让我们没想到的是业务量来的是如此之快,如此之高,加上瞬间的流量请求对于后端资源的预热,需要一点时间,部分服务出现短暂的超时,我们迅速对于非核心功能启动了无损降级,服务很快恢复.

当然,在应对这种热点事件时,我们已经很娴熟了,都会准备很多的预案,比如降级、限流、切流量等干预手段.

王关胜：微博平台大概14年开始研究Docker,14年底就Docker化了一些服务,并基于内部的基础设施上线了第一版的Docker工具平台,在15年春晚也发挥了作用.

但是这版的工具平台有很大的限制：我们内网的物理机设备冗余比较少,自动扩容的能力有限.基于此,我们开始探索公有云,并于2015年基于公有云的弹性能力加上私有云一起构建混合云DCP.通过与阿里云的合作,微博实现了从提前部署扩容到实时扩容的升级,并能达到10分钟弹性扩容上千节点的能力.

如果要说DCP的优势的话,我觉得最核心的就两点：

首先,微博平台的业务已经完全Docker化,基于Docker的特性,解决了环境差异性问题,使得标准化变得容易.其次,基于公有云,使得我们的服务的弹性能力大大加强,再也不用提前购买服务器,进行漫长的部署过程了.

DCP混合云系统的设计理念,总共包含4个核心概念：弹性伸缩、自动化、业务导向以及专门为微博订制.混合云系统必须有弹性调度的运算能力.而DCP混合云系统并不是对外公开的产品化服务,必须以业务需求出发,因此会有包含许多微博定制的功能.

DCP系统最核心的3层架构：主机层、调度适配层及编排层：

1) 主机层

主机层的核心是要调度运算资源.目前设计了资源共享池、Buffer资源池,配额管理,及多租户管理机制,借此实现弹性调度资源.

2)调度层：

而调度层则通过API,把调度工具用API进行包装,而微博4种常用的调度工具组合包含：原生Docker、Swarm、Mesos及微博自主开发的Dispatch.

最上层的则是负责业务编排及服务发现.目前,微博的后端服务95%是Java环境,而PC端则是使用PHP编写,移动端则是通过调用API服务.这些业务方都将会接入DCP.编排层也包括了大数据工具Hadoop,进行大数据分析的业务场景.

我们知道,对于调度来说,最重要的就是资源管理,Mesos处理这个是最合适不过了,很多公司就专用其做资源管理,比如Netflix写了一个Titan的调度服务,其底层资源管理则是通过Mesos.当然我们的调度组件中,使用最多的还是Swarm、Dispatch.

我们可以看下面这个场景：这也是私有云内部资源流转的最佳实践：

当业务A多余的运算资源导入混合云共享池时,此时流量暴涨的业务C,可从共享池调度业务A的运算资源；峰值事件后,便可以把多余的运算资源归还至共享池.

3)业务编排层

这层主要根据业务场景模型,通过主机层、调度层的API,创建可编排的任务模型,如集群管理、服务管理、服务池管理、镜像管理、构建管理、负载均衡管理、扩缩容管理等.

从使用角度出发,我们主要划分了集群、服务池、设备Buffer等层次,以IP+Port唯一标识服务.如下图：

其中：在DCP下可以创建多个集群,每个集群为独立平台或产品线,如微博平台、红包飞、手机微博等.集群间相互独立,集群内各自的服务可自由调度,集群外的调度则设置了配额机制.在集群下,可以创建服务池,一般为同一业务的同构服务.主机只有进了集群的Buffer中,才可能被用来部署服务.

DCP对于物理主机的流转,基于资源共享池、Buffer资源池、配额管理,及多租户管理机制,还是非常复杂的,这里我们可以看一下一台物理主机的生命周期(状态流转图)

王关胜：DCP系统最核心的是弹性伸缩,能根据容量情况进行自动的弹性伸缩,以此来解决明显的早晚高峰及热点事件的峰值问题.

DCP第一版时,我们做到了扩缩容的自动化,但未能自动伸缩,需要人的参与,而且也会有几个操作步骤,人本身是懒惰的且是易犯错的,且还会存在人力成本,这还没达到我们的目标,离无人值守还差一段距离,于是,我们又开发了两个模块：

• 容量决策系统：可以每周在线压测服务,评估出每个服务的容量数据,以供决策；
• 调度框架：在任务之上,采用基于时间段的调度策略,在业务访问低峰时执行缩容策略, 高峰来临前执行扩容策略.

整个自动伸缩框架如下：

其核心的特性：如支持各种调度策略,根据业务流量及服务冗余情况,提供基于时间的调度方式,类似crontab触发机制,Chronos、 Quartz提供可借鉴的任务调度实现机制；支持服务的依赖,A服务依赖B,B在自动弹性扩容时,需扩容好服务B.

这样,整个服务就可以弹性伸缩了.

王关胜：目前微博混合云DCP平台包含很多核心功能,如服务管理、多云对接、镜像市场、弹性调度、弹性扩缩容、服务发现、监控、容量决策等,这些已经可以全部联动,自动的去弹性来做.而应对峰值事件时,对于准备的预案,如降级,切流量这些,还需要人工的参与.

一般而言,面对瞬间高压,系统会采用“降级非核心及周边业务”.那么微博有没有对哪些业务进行降级呢?在突发热点事件的这种情况下,“核心应用”和“周边业务”分别是哪些?微博是否准备的降级策略?

王关胜：首先介绍一下微博的架构,微博主要分为后端和前端；前端主要是各种端(PC端和移动端)以及内部第三方(搜索、推荐、广告等),而后端则是提供各种各样的API,即所谓的微博平台,大部分的业务逻辑及存储资源均在后端部署.

在面对瞬时高压时,由于调用链比较深,当某些依赖业务容量不足时,也可能会采取降级非核心的功能以保证核心服务的正常.像王宝强事件时,也做过针对非核心的无损降级.

文章出处：InfoQ