用Haproxy+OpenStack实现web application auto scaling

feiyang10086

用Haproxy+OpenStack实现web application auto scaling

今天介绍一下配合Haproxy实现Web application auto scaling。

在用OpenStack实施云计算之前，要实现应用的水平扩展，通常是用这样的架构：



一台Haproxy将动态请求转发到N台nginx服务器，当流量增加的时候，我们需要手工安装物理的服务器，将它添加到集群中去，然后再手工修改haproxy的配置，让它生效。就算用自动化的安装管理工具，这样扩展一台机器也差不多要3~4小时。

用OpenStack实施云计算之后，整个架构和上图是一样的，但是我们可以通过几十行代码在5分钟内实现auto scaling，来看一下具体的步骤：

首先，我们先在OpenStack上的一台虚拟机安装好nginx以及其他应用，然后对它做一个snapshot：



记录一下这个snapshot的ID：



接下来写一个脚本，能够用这个snapshot来自动的创建实例，因为我对Ruby比较熟悉，这里用Ruby的openstack-computegem 来写（OpenStack有多种客户端可以调用API，比如python，php）:

Ruby代码

1. require 'rubygems'  
   
2. require 'openstack/compute'  
   
3.   
   
4. username = 'quake'  
   
5. api_key = 'password'  
   
6. auth_url = 'http://10.199.21.210:5000/v2.0/' #OpenStack keystone auth url   
   
7. image_id = '9' #前面记录的snapshot ID   
   
8. flavor_id = '1' #你想用的flavor对应的ID，这里用1，就是默认最小的1cpu, 512M内存的规格   
   
9.   
   
10. cs = OpenStack::Compute::Connection.new(:username => username, :api_key => api_key, :auth_url => auth_url)   
    
11. image = cs.get_image(image_id)   
    
12. flavor = cs.get_flavor(flavor_id)   
    
13. #创建一个新的instance   
    
14. newserver = cs.create_server(:name => "rails#{Time.now.strftime("%Y%m%d%H%M")}", :imageRef => image.id, :flavorRef => flavor.id)   
    
15. p "New Server #{newserver.name} created"  
    
16. #刷新instance的状态，直到它创建成功   
    
17. while newserver.progress < 100   
    
18.   p "Server status #{newserver.status}, progress #{newserver.progress}"  
    
19.   sleep 10   
    
20.   newserver.refresh   
    
21. end  
    
22. p "Server status #{newserver.status}, progress #{newserver.progress}"  
    
23. p "Done"  
    
24. 
    
25. require 'rubygems'
    
26. require 'openstack/compute'
    
27. 
    
28. username = 'quake'
    
29. api_key = 'password'
    
30. auth_url = 'http://10.199.21.210:5000/v2.0/' #OpenStack keystone auth url
    
31. image_id = '9' #前面记录的snapshot ID
    
32. flavor_id = '1' #你想用的flavor对应的ID，这里用1，就是默认最小的1cpu, 512M内存的规格
    
33. 
    
34. cs = OpenStack::Compute::Connection.new(:username => username, :api_key => api_key, :auth_url => auth_url)
    
35. image = cs.get_image(image_id)
    
36. flavor = cs.get_flavor(flavor_id)
    
37. #创建一个新的instance
    
38. newserver = cs.create_server(:name => "rails#{Time.now.strftime("%Y%m%d%H%M")}", :imageRef => image.id, :flavorRef => flavor.id)
    
39. p "New Server #{newserver.name} created"
    
40. #刷新instance的状态，直到它创建成功
    
41. while newserver.progress < 100
    
42.   p "Server status #{newserver.status}, progress #{newserver.progress}"
    
43.   sleep 10
    
44.   newserver.refresh
    
45. end
    
46. p "Server status #{newserver.status}, progress #{newserver.progress}"
    
47. p "Done"

复制代码

当需要扩展一台新的nginx instance时候，只需要执行上面的代码：
Shell代码

1. # ruby create_new_server.rb   
   
2. "New Server rails201112161042 created"  
   
3. "Server status BUILD, progress 0"  
   
4. "Server status ACTIVE, progress 100"  
   
5. "Done"  
   
6. 
   
7. # ruby create_new_server.rb
   
8. "New Server rails201112161042 created"
   
9. "Server status BUILD, progress 0"
   
10. "Server status ACTIVE, progress 100"
    
11. "Done"

复制代码

差不多30秒左右的时间（视你的镜像大小和网络速度），这台虚拟机就创建好了，我们可以在dashboard看到这台最新的机器：




接下去我们再写一个脚本，自动更新haproxy的配置文件：
Ruby代码

1. cs = OpenStack::Compute::Connection.new(:username => username, :api_key => api_key, :auth_url => auth_url)   
   
2. #预先定义一个haproxy template文件，backed server集群部分定义留空，将它拷贝过来   
   
3. `cp haproxy.cfg.template haproxy.cfg`   
   
4.   
   
5. File.open('haproxy.cfg', 'a') do |f|   
   
6.   cs.servers.each do |s|   
   
7.     server = cs.server(s[:id])   
   
8.     #如果该实例的镜像等于我们之前做的snapshot，将它的IP加入配置文件   
   
9.     if server.image['id'] == image_id   
   
10.       ip = server.addresses.first.address   
    
11.       p "Found matched server #{server.name} #{ip}, add to haproxy"  
    
12.       f.puts "        server #{server.name} #{ip}:80 maxconn 512"  
    
13.     end  
    
14.   end  
    
15. end  

复制代码

#覆盖旧的haproxy配置文件，reload haproxy

1. `cp haproxy.cfg /etc/haproxy.cfg`   
   
2. p "Reload haproxy"  
   
3. `/etc/init.d/haproxy reload`  
   
4. 
   
5. cs = OpenStack::Compute::Connection.new(:username => username, :api_key => api_key, :auth_url => auth_url)

复制代码

#预先定义一个haproxy template文件，backed server集群部分定义留空，将它拷贝过来

1. `cp haproxy.cfg.template haproxy.cfg`
   
2. 
   
3. File.open('haproxy.cfg', 'a') do |f|
   
4.   cs.servers.each do |s|
   
5.     server = cs.server(s[:id])
   
6.     #如果该实例的镜像等于我们之前做的snapshot，将它的IP加入配置文件
   
7.     if server.image['id'] == image_id
   
8.       ip = server.addresses.first.address
   
9.       p "Found matched server #{server.name} #{ip}, add to haproxy"
   
10.       f.puts "        server #{server.name} #{ip}:80 maxconn 512"
    
11.     end
    
12.   end
    
13. end

复制代码

#覆盖旧的haproxy配置文件，reload haproxy

1. `cp haproxy.cfg /etc/haproxy.cfg`
   
2. p "Reload haproxy"
   
3. `/etc/init.d/haproxy reload`

复制代码

执行该代码：
Shell代码

1. # ruby update_haproxy.rb   
   
2. "Found matched server rails201112161042 10.199.18.6, add to haproxy"  
   
3. "Found matched server rails201112161003 10.199.18.5, add to haproxy"  
   
4. "Found matched server rails201112160953 10.199.18.4, add to haproxy"  
   
5. "Found matched server rails201112160924 10.199.18.8, add to haproxy"  
   
6. "Found matched server rails201112160923 10.199.18.7, add to haproxy"  
   
7. "Reload haproxy"  
   
8. 
   
9. # ruby update_haproxy.rb
   
10. "Found matched server rails201112161042 10.199.18.6, add to haproxy"
    
11. "Found matched server rails201112161003 10.199.18.5, add to haproxy"
    
12. "Found matched server rails201112160953 10.199.18.4, add to haproxy"
    
13. "Found matched server rails201112160924 10.199.18.8, add to haproxy"
    
14. "Found matched server rails201112160923 10.199.18.7, add to haproxy"
    
15. "Reload haproxy"

复制代码

这样就实现了将刚刚创建的 rails201112161042 实例添加到了haproxy集群。

通过不到50行的代码，就实现了auto scaling，是不是很方便？我们还能够更自动化一些，配合监控脚本，设定一个指标，比如说当整个集群的CPU用量达到70%的时候，自动调用create_server，当CPU小于10%的时候，调用delete_server，这样就实现了按需scaling up/down.

梦境照进现实

谢谢分享哦...抱走了

2gua

这个帖子排版很专业、很好的啊。

linux_shell

思路不错，没人顶啊