使用 HAProxy 完成 網站分流, 平衡負載

wujing168

By
Tsung Hao

Published 23 March 2009
網站架設

Rating: Unrated
|  No. of Views: 271
一台 Server 能夠承受的連線數量是有一定限制的, 特別是在同一時間的存取, 如果一台 Server 撐不住時, 該如何讓其它機器來分擔?
網站分流、平衡負載解法

• Poor 版: DNS Robin DNS Load Balancing - 詳可見:
  [筆記] FreeBSD 一張網卡多重 ip 實現 Round Robin DNS Load Balancing
  
  
• Rich 版: 買 L4 / L7 Switch 解決.

Poor / Rich 版 優缺點

• 窮人版解法 有些小問題: 機器掛掉時, 沒辦法 立刻(by TTL 的時間) 自動切換.
  
• Rich 版 就蠻好搞定的, 只是這一版目前不適用在我身上. XD

HAProxy
由上述原因, 取中間值的話, 可以考慮用 HAProxy 來達成, 詳可見:
HAProxy 官網
(註: 此份文件使用的 HAProxy 是 1.3.15 版)
HAProxy 可以設定後端有幾台機器, 多久要去 check 機器死活, 若死掉時就可以馬上將此機器從服務中抽離, 只要機器活起來, 將會自動回復服務, 基本架構可見:
HAProxy - Description

HAProxy 架設
以下是於 Debian Linux 環境 步驟

apt-get install haproxy

vim /etc/default/haproxy # 將 ENABLED=0 改為 1
#ENABLED=0
ENABLED=1

/etc/init.d/haproxy start # 啟動
HAProxy 錯誤排除
在上述啟動時, 若有出現下述錯誤:
Starting haproxy: [ALERT] 015/191034 (15631) : Starting proxy webfarm: cannot bind socket...on both load balancers
或
[ALERT] 056/103843 (1358) : Starting proxy www-balancer: cannot bind socket
解法

• 暫時解法, 直接先修改設定, 讓它先跑起來:
  sysctl -e net.ipv4.ip_nonlocal_bind=1
  
• 永久解法, 讓開機時自動設此參數.
  
• sysctl -a | grep nonlocal # 看是否已經有設定此參數
  
• vim /etc/sysctl.conf # 最下面加入
  net.ipv4.ip_nonlocal_bind=1

不過, 就直接啟動, 沒有做什麼任何的事情, 再來就來看看設定檔, 來把想做的事情設一設~ :)
HAProxy 設定檔 Debug 模式
HAProxy 的設定檔預設是放在 /etc/haproxy/haproxy.cfg (Debian), 要看是否設定正確, 來源資料是否走對路等等, 要先知道如何 Debug.

• Debug mode 啟動: /usr/sbin/haproxy -d -f /etc/haproxy/haproxy.cfg

HAProxy 設定檔(haproxy.cfg)
HAProxy 設定檔, 詳細文件可見:
HAProxy Documentation

想要直接取用設定(下述是我的設定), 可以直接修改取用(
haproxy.cfg 下載
), haproxy.cfg 內容如下:
global
    maxconn 32768
    #chroot /usr/share/haproxy
    user haproxy
    group haproxy
    daemon
    nbproc 8
    #debug
    #quiet
defaults
    log    global
    mode    http
    option    httplog
    option    dontlognull
    retries    3
    option redispatch
    option httpclose
    maxconn    32768
    contimeout    5000
    clitimeout    50000
    srvtimeout    50000
#listen    www-balancer 0.0.0.0:80
listen    www-balancer
        bind 0.0.0.0:80
        balance         roundrobin
        server          w1 11.11.11.11:80 weight 3 check
        server          w2 22.22.22.22:80 weight 3 check
        option          httpchk GET /robots.txt
        option          forwardfor
HAProxy 常用參數說明
HAProxy 上述 cfg 檔內容, 詳細可見:
HAProxy Reference Manual
(簡體版:
HAProxy 配置手冊
)
下述內容主要來自上述文件:
haproxy.cfg 三大項目
haproxy.cfg 有分下列三種: (haproxy.cfg 的三個主項目)

• global
  
• listen
  
• defaults

註:

• 下述所有  都必須由 大/小 寫字母, 數字, -, . : 組成. (大小寫會視為不同名稱)
  
• defaults : 下面所有參數的預設設定值, 下面的設定值會蓋掉上面的.
  
• listen   : 完整的 Proxy 代理, frontend / backend 都在這個設定裡 (用於 TCP)

global 分類
global 部分有下述幾類:

• 行程管理和安全
  
• chroot  
  
• daemon: 執行 -D 也是同樣
  
• gid
  
• group
  
• log
  
• nbproc: deamon 才能使用, 也是最推薦的模式, 如果小檔案很多, 建議要多開幾個, 但是 debug 時不建議開此參數. (arg: nbproc )
  
• pidfile
  
• uid
  
• ulimit-n: 設定每個行程最大文件數, 此值會自動計算, 不建議設定此參數 (arg: ulimit-n )
  
• user
  
• stats
  
• 性能調校
  
• maxconn: 最大連接數, 同 -n (arg: maxconn )
  
• noepoll: 在 Linux 系統不使用 epoll, 等同 -de
  
• nokqueue: 在 BSD 不使用 kqueue polling, 同 -dk
  
• nopoll: 此 poll 在任何機器都可以跑, 不建議關閉, 同 -dp
  
• nosepoll: 在 Linux 系統不使用 speculative epoll, 等同 -ds
  
• spread-checks: 多久去 check 一次, 預設值 0 (arg: spread-checks )
  
• tune.maxaccept
  
• tune.maxpollevents
  
• 測試
  
• debug: 將所有訊息都顯示到畫面上, 同 -d
  
• quiet: 不顯示任何訊息, 同 -v

listen 分類

• listen  [ :[,...] ]

listen 部分有下述幾類:

• bind
  
• mode: TCP / HTTP / health
  
• balance: roundrobin / source / url / url_param
  
• server
  
• option
  
• # defaults 的參數都可於此寫入, 於此 listen 的設定中, 會以此寫入的為主.

defaults 參數
defaults 的參數說明: (註: 下述非完整參數, 只把可能會用到的簡單做個筆記.)

• acl   [flags] [operator]  ...
  
• balance  [  ] (設定 load balancing algorithm, ex: balance roundrobin)
  
• balance url_param  [check_post []] (ex: balance url_param userid 或 balance url_param session_id check_post 64)
  
• bind []: [, ...] (ex: bind :80,:443 或 bind 10.0.0.1:10080,10.0.0.1:10443)
  
• contimeout : 設定連結到 server 的最大等待時間.  
  
• clitimeout : 設定 Client 最大等待時間
  
• errorfile   (ex: errorfile 400 /etc/haproxy/errors/400.http,  支援的 HTTP status code 有:  400, 403, 408, 500, 502, 503, and 504.)
  
• log global
  
• log   [] (ex: log 127.0.0.1:514 local0 notice)
  
• maxconn : 同時最大連線數量
  
• mode { tcp|http|health } (defaults 為 http)
  
• monitor fail [if | unless] : 如果發現掛掉時, 要做什麼事.
  
• monitor-net  (ex: monitor-net 192.168.0.252/31 # addresses .252 and .253 are just probing us.)
  
• monitor-uri  (ex: monitor-uri /haproxy_test # Use /haproxy_test to report haproxy's status)
  
• option dontlognull: Enable or disable logging of null connections.
  
• option forwardfor [ except  ]: 如果有 X-Forwarded-For header 都送到 server 去.
  
• option httpchk: 於下面範例解釋
  
• option httpclose: Enable or disable passive HTTP connection closing
  
• option httplog: Enable logging of HTTP request, session state and timers
  
• option logasap: Enable or disable early logging of HTTP requests
  
• option persist: 當 client 連到死的機器時, 持續繼續連線, 搭配 redispatch 會再幫他導到其它機器.
  
• option redispatch: 當 client 連到死的機器時, 重新再分配.
  
• option smtpchk
  
• option smtpchk   (ex: option smtpchk HELO mydomain.org)
  
• option srvtcpka: Enable or disable the sending of TCP keepalive packets on the server side
  
• option ssl-hello-chk: Use SSLv3 client hello health checks for server testing
  
• option tcpka: Enable or disable the sending of TCP keepalive packets on both sides
  
• option tcplog: Enable advanced logging of TCP connections with session state and timers
  
• option transparent: Enable client-side transparent proxying
  
• reqadd : Add a header at the end of the HTTP request
  
• reqallow   (ex: reqiallow ^Host:\ www\.)
  
• reqiallow   (ignore case) (ex: reqiallow ^Host:\ www\.)
  
• reqdel   (ex: reqdel ^X-Forwarded-For:.*)
  
• reqidel   (ignore case) (ex: reqidel ^Cookie:.*SERVER=)
  
• reqdeny   
  
• reqideny   (ignore case) (ex: reqideny  ^Host:\ .*\.local)
  
• reqpass   
  
• reqipass   (ignore case) (ex: reqipass  ^Host:\ www.private\.local)
  
• reqrep    (ex: reqrep ^([^\ ]*)\ /static/(.*)  \1\ /\2)
  
• reqirep     (ignore case) (ex: reqirep ^Host:\ www.mydomain.com   Host:\ www)
  
• rspadd : Add a header at the end of the HTTP response
  
• rspdel   
  
• rspidel   (ignore case)
  
• server  [:port] [param*]: Declare a server in a backend (ex: server first  10.1.1.1:1080 cookie first  check inter 1000 或 server second 10.1.1.2:1080 cookie second check inter 1000)
  
• stats auth : (ex: stats auth admin1:AdMiN123)
  
• srvtimeout : 設定在 server side 的 最大等待時間
  
• retries : 重試次數

httpchk 範例
httpchk (啟用 HTTP 的 server health check.) 特別重要, 範例多記錄一點.
option httpchk
option httpchk
option httpchk  
option httpchk   
ex:
    # Relay HTTPS traffic to Apache instance and check service availability
    # using HTTP request "OPTIONS * HTTP/1.1" on port 80.
    backend https_relay
        mode tcp
        option httpchk OPTIONS * HTTP/1.1\r\nHost:\ www
        server apache1 192.168.1.1:443 check port 80
   
    option  httpchk GET /robots.txt
    option  httpchk GET /index.html
    option  httpchk *
option  httpchk GET /robots.txt # 指的是 GET /robots.txt HTTP/1.0
option  httpchk # 指的是 OPTIONS / HTTP/1.0
option  httpchk * # 指的是 OPTIONS * HTTP/1.0

本文来自ChinaUnix博客，如果查看原文请点：http://blog.chinaunix.net/u1/38871/showart_1914539.html

doondroar

monitor-uri /haproxy_test
option  httpchk GET /robots.txt
option  httpchk GET /index.html
上面的“/haproxy_test”、“/robots.txt”和“/index.html”怎么来的，到哪里去找，是否名字随便取，能解释下吗？