什麼是負載平衡
當一台伺服器的單位時間內的訪問量越大時,伺服器壓力就越大,大到超過自身承受能力時,伺服器就會崩潰。為了避免伺服器崩潰,讓使用者有更好的體驗,我們通過負載平衡的方式來分擔伺服器壓力。
我們可以建立很多很多伺服器,組成一個伺服器叢集,當使用者訪問網站時,先訪問一個中間伺服器,在讓這個中間伺服器在伺服器叢集中選擇一個壓力較小的伺服器,然後將該訪問請求引入該伺服器。如此以來,使用者的每次訪問,都會保證伺服器叢集中的每個伺服器壓力趨於平衡,分擔了伺服器壓力,避免了伺服器崩潰的情況。
負載平衡是用反向 Proxy的原理實現的。
負載平衡的幾種常用方式
1、輪詢(預設)
每個請求按時間順序逐一分配到不同的後端伺服器,如果後端伺服器down掉,能自動剔除。
upstream backserver { server 192.168.0.14; server 192.168.0.15;}
2、weight
指定輪詢幾率,weight和訪問比率成正比,用於後端伺服器效能不均的
情況。
upstream backserver { server 192.168.0.14 weight=3; server 192.168.0.15 weight=7;}
權重越高,在被訪問的機率越大,如上例,分別是30%,70%。
3、上述方式存在一個問題就是說,在負載平衡系統中,假如使用者在某台伺服器上登入了,那麼該使用者第二次請求的時候,因為我們是負載平衡系統,每次請求都會重新置放到伺服器叢集中的某一個,那麼已經登入某一個伺服器的使用者再重新置放到另一個伺服器,其登入資訊將會丟失,這樣顯然是不妥的。
我們可以採用ip_hash指令解決這個問題,如果客戶已經訪問了某個伺服器,當使用者再次訪問時,會將該請求通過雜湊演算法,自動定位到該伺服器。
每個請求按訪問ip的hash結果分配,這樣每個訪客固定訪問一個後端伺服器,可以解決session的問題。
upstream backserver { ip_hash; server 192.168.0.14:88; server 192.168.0.15:80;}
4、fair(第三方)
按後端伺服器的回應時間來分配請求,回應時間短的優先分配。
upstream backserver { server server1; server server2; fair;}
5、url_hash(第三方)
按訪問url的hash結果來分配請求,使每個url定向到同一個後端伺服器,後端伺服器為緩衝時比較有效。
upstream backserver { server squid1:3128; server squid2:3128; hash $request_uri; hash_method crc32;}
每個裝置的狀態設定為:
1.down 表示單前的server暫時不參與負載
2.weight 預設為1.weight越大,負載的權重就越大。
3.max_fails:允許請求失敗的次數預設為1.當超過最大次數時,返回proxy_next_upstream模組定義的錯誤
4.fail_timeout:max_fails次失敗後,暫停時間。
5.backup: 其它所有的非backup機器down或者忙的時候,請求backup機器。所以這台機器壓力會最輕。
配置執行個體:
#user nobody;worker_processes 4;events { # 最大並發數 worker_connections 1024;}http{ # 待選伺服器列表 upstream myproject{ # ip_hash指令,將同一使用者引入同一伺服器。 ip_hash; server 125.219.42.4 fail_timeout=60s; server 172.31.2.183; } server{ # 監聽連接埠 listen 80; # 根目錄下 location / { # 選擇哪個伺服器列表 proxy_pass http://myproject; } }}