使用Auto-Scaling服务在Bluemix平台构建可自动伸缩的应用

来源：互联网发布：海贼王888 知乎编辑：程序博客网时间：2024/05/21 19:22

Auto-Scaling简介

Bluemix Auto-Scaling是由CDL team发起并开发的一个能够对Bluemix平台的应用自动扩展的服务，致力于为开发者营造更友好和稳定的开发环境。

通过Bluemix平台，用户可以非常方便的开发并部署自己的应用。一个应用的性能可能会随着访问量的增加而急剧下降。在不对应用本身进行代码优化的前提下，若要提高访问此应用的用户体验，对此应用进行扩展是最好的办法。

在Bluemix上，存在两种扩展方式，垂直扩展和水平扩展。

垂直扩展又被称为向上 (scale up) 扩展。垂直扩展通过向运行应用的容器添加容量来增加可供应用程序使用的资源，比如增加CPU数目或者增加内存的容量。

水平扩展又被称为向外扩展 (scale out)。通过增加应用的实例数目增加总体应用程序资源容量。比如以前是一个实例，现在扩展到5个应用实例。而在Bluemix上，这对应用的访问者来说是透明的，即访问者访问应用只有一个入口，其并不知道这个应用具体有多少个实例。

Bluemix上的Auto-Scaling就是基于水平扩展来使应用具有可伸缩性的。

Auto-Scaling现在支持两种途径的缩放，第一种是基于应用的性能参数（如内存，Liberty的应用还支持heap,throughout等）的自动缩放，第二种是基于应用作者指定的时间段的缩放。

准备工作

在Bluemix上创建一个应用并且绑定到Auto-Scaling服务

注册一个Bluemix ID并登录。

在Bluemix上创建一个应用，在Bluemix的dashboard点击CREATE APP。

这里我们选择创建一个WEB APP作为示例。

选择Liberty for Java类型。

输入应用的名字。

给应用添加Auto-Scaling服务。选择ADD A SERVICE OR API。

找到Auto-Scaling并选择。

创建一个Auto-Scaling服务的实例。

完成后会提示应用要Restage，点击确定。

使用Auto-Scaling服务

到此我们就完成了准备工作，下面就可以开始定义自己的规则来实现应用的自动伸缩了。

基于性能参数的缩放

下面我们先来看第一种类型的缩放规则：根据应用的性能参数缩放。

点击创建的Auto-Scaling服务的实例到创建规则的页面，点击CREATE AUTO-SCALING POLICY。

在此页面添加如下图的规则，

这里我们定义参数如下：

最大的实例数Allowable maximum instance count为5

默认的实例数Default minimum instance count 为1

性能参数的类型选择Memory,为了使应用能够更容易缩放，我们将扩展的上限设置为50%，这样只要应用实例的Memory使用超过50%，就会增加一个实例。

同时将收缩的下限设置为30%，这样当应用实例的Memory使用少于30%就会减少一个实例。

对于 Statistic Window 和 Breach Duration：指定 120 秒（最小值），以便对是否扩展应用程序的决策应用最高的灵敏度级别。

对于扩展和精减的 Cooldown period：指定 120 秒。

一些设置规则的技巧：

如果应用程序的工作负载在短期内的增长非常快，那么可以将 Breach Duration 设置为一个较小的值，让您的应用程序能够提前扩展，避免超出 CPU 或内存容量和应用程序崩溃。如果您选择的 Metric Type（CPU、Memory 或 Heap）在短期内增高并降低，可以为 Statistic Window 指定一个更高的值。为了确定您的应用程序的 CPU 利用率是否超出了上限或下限，Auto-Scaling 会考虑一个时间范围（在 Statistic Window 参数上指定的值）内的指标数据并计算平均值。为 Statistic Window 指定的值越高，它选择用来计算应用程序是否达到上限或下限的数据范围就越宽。

第一次扩展完成后，第二次扩展在 Cooldown 期限过去后才能触发。此做法提供了足够的时间让应用程序状态变得稳定。出于演示用途，我们为 Cooldown 指定一个较短的期限，对于生产环境，可以使用较长的期限。

下面我们来提高应用的内存用量来使其进行自动扩展。

在Eclipse中建立一个web project,名称为helloWorld。然后创建一个servlet。在此servlet中定义一个List<String>的实例。然后添加两个方法add和delete。当调用add时，每次为list添加指定书目的字符串，当调用delete时，把list置为null，即之前所有添加的元素都删除。

代码片段如下所示：

protected void doGet(HttpServletRequest request, HttpServletResponse response)

throws ServletException, IOException

{

String method = request.getParameter("method");

if("add".equals(method)){

int count = Integer.parseInt(request.getParameter("count"));

this.add(count);

}

else

{

this.delete();

}

response.setContentType("text/html");

PrintWriter out = response.getWriter();

out.write("----------"+list.size());

out.flush();

}

protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {

serveRequest(request, response);

}

private int add(int count){

if(null == list){

list = new ArrayList<String>();

}

for(int i = 0; i< count; i++){

list.add("XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX");

}

return list.size();

}

private int delete(){

list = null;

return 0;

}

这样我们通过带着特定的参数访问应用时，就可以手动的改变应用的内存用量，使其达到扩展的限值。

此后我们访问此应用并不断提高其内存用量，切换到Metric Statistics标签页可以看到内存的参数如下图所示，已经达到了扩展的上限，

此时我们切换到Scaling History标签页，发现应用的实例已经开始扩展了，如下图所示。

基于指定时间段的调度缩放

以上基于应用的性能参数的缩放能够满足大多数的应用的要求。但是对于在某个特定时间段内访问量爆炸性上升从而造成性能下降的应用的支持度并不是非常友好。比如一个应用只有在特定的时间段例如晚上7点到11点之间的访问量会急剧上升，而且是在7点短时间内就到达一个非常大的值得话，这样如果还采用第一种方式一步一步的扩展就会带来前期的实例数不能满足其巨大的访问量而性能下降的问题。这时的扩展过程如下图所示，