標籤:style http color 使用 os strong
PS:Nginx/LVS/HAProxy是目前使用最廣泛的三種負載平衡軟體,本人都在多重專案中實施過,參考了一些資料,結合自己的一些使用經驗,總結一下。
一般對負載平衡的使用是隨著網站規模的提升根據不同的階段來使用不同的技術。具體的應用需求還得具體分析,如果是中小型的Web應用,比如日PV小於1000萬,用Nginx就完全可以了;如果機器不少,可以用DNS輪詢,LVS所耗費的機器還是比較多的;大型網站或重要的服務,且伺服器比較多時,可以考慮用LVS。
一種是通過硬體來進行進行,常見的硬體有比較昂貴的F5和Array等商用的負載平衡器,它的優點就是有專業的維護團隊來對這些服務進行維護、缺點就是花銷太大,所以對於規模較小的網路服務來說暫時還沒有需要使用;另外一種就是類似於Nginx/LVS/HAProxy的基於Linux的開源免費的負載平衡軟體,這些都是通過軟體層級來實現,所以費用非常低廉。
目前關於網站架構一般比較合理流行的架構方案:Web前端採用Nginx/HAProxy+Keepalived作負載平衡器;後端採用MySQL資料庫一主多從和讀寫分離,採用LVS+Keepalived的架構。當然要根據項目具體需求制定方案。
下面說說各自的特點和適用場合。
Nginx的優點是:
1、工作在網路的7層之上,可以針對http應用做一些分流的策略,比如針對網域名稱、目錄結構,它的正則規則比HAProxy更為強大和靈活,這也是它目前廣泛流行的主要原因之一,Nginx單憑這點可利用的場合就遠多於LVS了。
2、Nginx對網路穩定性的依賴非常小,理論上能ping通就就能進行負載功能,這個也是它的優勢之一;相反LVS對網路穩定性依賴比較大,這點本人深有體會;
3、Nginx安裝和配置比較簡單,測試起來比較方便,它基本能把錯誤用日誌列印出來。LVS的配置、測試就要花比較長的時間了,LVS對網路依賴比較大。
3、可以承擔高負載壓力且穩定,在硬體不差的情況下一般能支撐幾萬次的並發量,負載度比LVS相對小些。
4、Nginx可以通過連接埠檢測到伺服器內部的故障,比如根據伺服器處理網頁返回的狀態代碼、逾時等等,並且會把返回錯誤的請求重新提交到另一個節點,不過其中缺點就是不支援url來檢測。比如使用者正在上傳一個檔案,而處理該上傳的節點剛好在上傳過程中出現故障,Nginx會把上傳切到另一台伺服器重新處理,而LVS就直接斷掉了,如果是上傳一個很大的檔案或者很重要的檔案的話,使用者可能會因此而不滿。
5、Nginx不僅僅是一款優秀的負載平衡器/反向 Proxy軟體,它同時也是功能強大的Web應用伺服器。LNMP也是近幾年非常流行的web架構,在高流量的環境中穩定性也很好。
6、Nginx現在作為Web反向加速緩衝越來越成熟了,速度比傳統的Squid伺服器更快,可以考慮用其作為反向 Proxy加速器。
7、Nginx可作為中層反向 Proxy使用,這一層面Nginx基本上無對手,唯一可以對比Nginx的就只有lighttpd了,不過lighttpd目前還沒有做到Nginx完全的功能,配置也不那麼清晰易讀,社區資料也遠遠沒Nginx活躍。
8、Nginx也可作為靜態網頁和圖片伺服器,這方面的效能也無對手。還有Nginx社區非常活躍,第三方模組也很多。
Nginx的缺點是:
1、Nginx僅能支援http、https和Email協議,這樣就在適用範圍上面小些,這個是它的缺點。
2、對後端伺服器的健全狀態檢查,只支援通過連接埠來檢測,不支援通過url來檢測。不支援Session的直接保持,但能通過ip_hash來解決。
LVS:使用Linux核心叢集實現一個高效能、高可用的負載平衡伺服器,它具有很好的延展性(Scalability)、可靠性(Reliability)和可管理性(Manageability)。
LVS的優點是:
1、抗負載能力強、是工作在網路4層之上僅作分發之用,沒有流量的產生,這個特點也決定了它在負載平衡軟體裡的效能最強的,對記憶體和cpu資源消耗比較低。
2、配置性比較低,這是一個缺點也是一個優點,因為沒有可太多配置的東西,所以並不需要太多接觸,大大減少了人為出錯的幾率。
3、工作穩定,因為其本身抗負載能力很強,自身有完整的雙機熱備方案,如LVS+Keepalived,不過我們在項目實施中用得最多的還是LVS/DR+Keepalived。
4、無流量,LVS只分發請求,而流量並不從它本身出去,這點保證了均衡器IO的效能不會收到大流量的影響。
5、應用範圍比較廣,因為LVS工作在4層,所以它幾乎可以對所有應用做負載平衡,包括http、資料庫、線上聊天室等等。
LVS的缺點是:
1、軟體本身不支援Regex處理,不能做動靜分離;而現在許多網站在這方面都有較強的需求,這個是Nginx/HAProxy+Keepalived的優勢所在。
2、如果是網站應用程式比較龐大的話,LVS/DR+Keepalived實施起來就比較複雜了,特別後面有Windows Server的機器的話,如果實施及配置還有維護過程就比較複雜了,相對而言,Nginx/HAProxy+Keepalived就簡單多了。
HAProxy的特點是:
1、HAProxy也是支援虛擬機器主機的。
2、HAProxy的優點能夠補充Nginx的一些缺點,比如支援Session的保持,Cookie的引導;同時支援通過擷取指定的url來檢測後端伺服器的狀態。
3、HAProxy跟LVS類似,本身就只是一款負載平衡軟體;單純從效率上來講HAProxy會比Nginx有更出色的負載平衡速度,在並發處理上也是優於Nginx的。
4、HAProxy支援TCP協議的負載平衡轉寄,可以對MySQL讀進行負載平衡,對後端的MySQL節點進行檢測和負載平衡,大家可以用LVS+Keepalived對MySQL主從做負載平衡。
5、HAProxy負載平衡策略非常多,HAProxy的負載平衡演算法現在具體有如下8種:
① roundrobin,表示簡單的輪詢,這個不多說,這個是負載平衡基本都具備的;
② static-rr,表示根據權重,建議關注;
③ leastconn,表示最少串連者先處理,建議關注;
④ source,表示根據請求源IP,這個跟Nginx的IP_hash機制類似,我們用其作為解決session問題的一種方法,建議關注;
⑤ ri,表示根據請求的URI;
⑥ rl_param,表示根據請求的URl參數’balance url_param’ requires an URL parameter name;
⑦ hdr(name),表示根據HTTP要求標頭來鎖定每一次HTTP請求;
⑧ rdp-cookie(name),表示根據據cookie(name)來鎖定並雜湊每一次TCP請求。
Nginx和LVS對比的總結:
1、Nginx工作在網路的7層,所以它可以針對http應用本身來做分流策略,比如針對網域名稱、目錄結構等,相比之下LVS並不具備這樣的功能,所以Nginx單憑這點可利用的場合就遠多於LVS了;但Nginx有用的這些功能使其可調整度要高於LVS,所以經常要去觸碰觸碰,觸碰多了,人為出問題的幾率也就會大。
2、Nginx對網路穩定性的依賴較小,理論上只要ping得通,網頁訪問正常,Nginx就能連得通,這是Nginx的一大優勢!Nginx同時還能區分內外網,如果是同時擁有內外網的節點,就相當於單機擁有了備份線路;LVS就比較依賴於網路環境,目前來看伺服器在同一網段內並且LVS使用direct方式分流,效果較能得到保證。另外注意,LVS需要向託管商至少申請多一個ip來做Visual IP,貌似是不能用本身的IP來做VIP的。要做好LVS管理員,確實得跟進學習很多有關網路通訊方面的知識,就不再是一個HTTP那麼簡單了。
3、Nginx安裝和配置比較簡單,測試起來也很方便,因為它基本能把錯誤用日誌列印出來。LVS的安裝和配置、測試就要花比較長的時間了;LVS對網路依賴比較大,很多時候不能配置成功都是因為網路問題而不是配置問題,出了問題要解決也相應的會麻煩得多。
4、Nginx也同樣能承受很高負載且穩定,但負載度和穩定度差LVS還有幾個等級:Nginx處理所有流量所以受限於機器IO和配置;本身的bug也還是難以避免的。
5、Nginx可以檢測到伺服器內部的故障,比如根據伺服器處理網頁返回的狀態代碼、逾時等等,並且會把返回錯誤的請求重新提交到另一個節點。目前LVS中 ldirectd也能支援針對伺服器內部的情況來監控,但LVS的原理使其不能重發請求。比如使用者正在上傳一個檔案,而處理該上傳的節點剛好在上傳過程中出現故障,Nginx會把上傳切到另一台伺服器重新處理,而LVS就直接斷掉了,如果是上傳一個很大的檔案或者很重要的檔案的話,使用者可能會因此而惱火。
6、Nginx對請求的非同步處理可以協助節點伺服器減輕負載,假如使用apache直接對外服務,那麼出現很多的窄帶連結時apache伺服器將會佔用大 量記憶體而不能釋放,使用多一個Nginx做apache代理的話,這些窄帶連結會被Nginx擋住,apache上就不會堆積過多的請求,這樣就減少了相當多的資源佔用。這點使用squid也有相同的作用,即使squid本身配置為不緩衝,對apache還是有很大協助的。
7、Nginx能支援http、https和email(email的功能比較少用),LVS所支援的應用在這點上會比Nginx更多。在使用上,一般最前端所採取的策略應是LVS,也就是DNS的指嚮應為LVS均衡器,LVS的優點令它非常適合做這個任務。重要的ip地址,最好交由LVS託管,比如資料庫的 ip、webservice伺服器的ip等等,這些ip地址隨著時間推移,使用面會越來越大,如果更換ip則故障會接踵而至。所以將這些重要ip交給 LVS託管是最為穩妥的,這樣做的唯一缺點是需要的VIP數量會比較多。Nginx可作為LVS節點機器使用,一是可以利用Nginx的功能,二是可以利用Nginx的效能。當然這一層面也可以直接使用squid,squid的功能方面就比Nginx弱不少了,效能上也有所遜色於Nginx。Nginx也可作為中層代理使用,這一層面Nginx基本上無對手,唯一可以撼動Nginx的就只有lighttpd了,不過lighttpd目前還沒有能做到 Nginx完全的功能,配置也不那麼清晰易讀。另外,中層代理的IP也是重要的,所以中層代理也擁有一個VIP和LVS是最完美的方案了。具體的應用還得具體分析,如果是比較小的網站(日PV小於1000萬),用Nginx就完全可以了,如果機器也不少,可以用DNS輪詢,LVS所耗費的機器還是比較多的;大型網站或者重要的服務,機器不發愁的時候,要多多考慮利用LVS。
現在對網路負載平衡的使用是隨著網站規模的提升根據不同的階段來使用不同的技術:
第一階段:利用Nginx或HAProxy進行單點的負載平衡,這一階段伺服器規模剛脫離開單伺服器、單資料庫的模式,需要一定的負載平衡,但是仍然規模較小沒有專業的維護團隊來進行維護,也沒有需要進行大規模的網站部署。這樣利用Nginx或HAproxy就是第一選擇,此時這些東西上手快, 配置容易,在七層之上利用HTTP協議就可以。這時是第一選擇。
第二階段:隨著網路服務進一步擴大,這時單點的Nginx已經不能滿足,這時使用LVS或者商用Array就是首要選擇,Nginx此時就作為LVS或者Array的節點來使用,具體LVS或Array的是選擇是根據公司規模和預算來選擇,Array的應用交付功能非常強大,本人在某項目中使用過,性價比也遠高於F5,商用首選!但是一般來說這階段相關人才跟不上業務的提升,所以購買商業負載平衡已經成為了必經之路。
第三階段:這時網路服務已經成為主流產品,此時隨著公司知名度也進一步擴充,相關人才的能力以及數量也隨之提升,這時無論從開發適合自身產品的定製,以及降低成本來講開源的LVS,已經成為首選,這時LVS會成為主流。
最終形成比較理想的基本架構為:Array/LVS — Nginx/Haproxy — Squid/Varnish — AppServer。