Lvs IP負載平衡技術，lvsip負載平衡

Lvs IP負載平衡技術，lvsip負載平衡
Lvs叢集的通用結構

 　　Lvs叢集採用IP負載平衡技術，屬於IP層的交換（L4），具有很好的吞吐率。調度器分析用戶端到伺服器的IP前序資訊，將請求均衡地轉移到不同的伺服器上執行，且調度器自動屏蔽掉伺服器的故障，從而將一組伺服器構成一個高效能的、高可用的虛擬伺服器，Lvs叢集系統的通用結構如下所示，主要包含四大部分：

　　負載調度器（load balancer），它是整個叢集對外面的前端機，負責將客戶的請求發送到一組伺服器上執行，而客戶認為服務來自一個IP地址上的。當客戶請求到達時，調度器只根據負載情況從伺服器集區選出一個伺服器，將請求轉寄到選出的伺服器。因為所有的操作都是在作業系統核心空間中完成，它的調度開銷很小，所以具有很小的吞吐率。

　　伺服器集區（server pool），是一組真正執行客戶請求的伺服器，執行的任務有WEB、MAIL、FTP和DNS等。伺服器集區的節點數目是可變的，當整個系統收到的負載超過目前所有網站的處理能力時，可以在伺服器集區中添加伺服器來滿足不斷增長的請求負載。對大多數網站來說，節點與節點之間不存在很強的相關性，所以整個系統的效能可以隨著伺服器集區的節點數目增加而線性增長。 

　　後端儲存（backend storage），它為伺服器集區提供一個共用的儲存區，這樣使得伺服器集區擁有相同的內容，提供相同的服務。

　　Graphic Monitor是為系統管理員提供整個叢集系統的監視器，它可以監視系統中每個節點的狀況。

IP負載平衡技術

在已有的IP負載平衡技術中有三種：

　　一、是通過網路位址轉譯實現虛擬伺服器的VS/NAT技術（Virtual Server via Network Address Translation）

　　二、是通過直接路由的VS/DR技術（Virtual Server via Direct Routing）

　　三、是通過IP隧道實現虛擬伺服器的VS/TUN技術

通過NAT實現虛擬伺服器（VS/NAT），請求，響應都在負載平衡器中完成

　　VS/NAT的體繫結構如所示，在一組伺服器前有一個調度器，它們是通過Switch/HUB相串連的。這些服務提供相同的網路服務、相同的內容，即不管請求被發送到哪一台伺服器，執行結果是一樣的

　　1、用戶端瀏覽器輸入58.251.62.141向58.251.62.141發出http請求

　　2、Load Balancer的外網（eth0）收到該次請求

　　　　

　　3、IPVS調度器根據各個Real Server的負載情況，動態選擇一台Real Server（例如：172.16.81.144），將請求報文的目標地址改寫發送給172.16.81.144

　　　　

　　4、Real Server收到請求報文並處理形成響應文本，由於Real Server上的網關地址為Load Balaceer，響應報文從Real Server發往Load Balaceer。

　　　　

　　5、Load Balacer收到172.16.81.144的響應報文後，將響應報文的原地址修改為虛擬IP地址，並發送給用戶端。

　　　　

　　6、客戶認為得到正常的服務，而不知道是哪一台伺服器處理的。

通過直接路由實現虛擬伺服器（VS/DR）

　　在VS/NAT的叢集系統中，請求和響應的資料報文都需要通過負載調度器，當真實伺服器數目在10-20之間時，負載調度器將成為整個叢集系統的新瓶頸。大多數Internet服務都有這樣的特點：請求報文較短而響應報文往往包含大量的資料。如果能將請求和響應分開處理，即在負載平衡器中只負責調度請求而響應直接返回給客戶，將極大提升提高整個叢集系統的輸送量。VS/DR體繫結構如所示：調度器和伺服器都必須在物理上有一個網卡通過不分斷的區域網路串連，如通過交換器或者高速的HUB串連。VIP地址為調度器和伺服器組共用，調度器設定的VIP地址是對外可見的，用於接收虛擬服務的請求報文；所有的伺服器把VIP地址配置在各自的Non-ARP網路裝置上，它對外面不可見，只是用於處理目標地址為VIP請求。

　　總結：負載只負責調度，響應直接返回給使用者，負載和伺服器必須在物理上通過網卡通過不分斷的區域網路串連，負載地址對外可見，伺服器集區地址對外不可見。

　　1、用戶端瀏覽器輸入58.251.62.141向58.251.62.141發出http請求

　　2、Load Balacer的外網（eth0）收到該次請求

　　　　

　　3、IPVS調度器根據各個Real Server的負載情況，動態選擇一台Real Server，將請求報文轉寄到Real Server（如下的地址）

　　　　

　　4、Real Server的內網（eth1）接收到Load Balacer發過來的IP報文並對IP報文解包，得到客戶的請求包，發現包的目標地址被配置在本地的lo裝置上，所以就處理這個請求

　　5、Real Server根據路由表將響應報文通過外網（eth0）直接返回給使用者，請求報文的目標地址改為VIP，響應報文的源地址也為VIP，所以響應報文不需要做任何修改，直接返回給客戶

　　　　

　　6、客戶認為得到正常服務，而不知道是哪一台伺服器處理的。

　　在VS/DR響應報文根據伺服器的路由表直接返回給使用者，而不經過負載調度器，所以負載調度器只處於從客戶到伺服器的半串連中，我們給出半串連的TCP有限狀態機器。如為VS/DR的TCP狀態轉移，圈表示狀態，箭頭表示狀態間的轉換，箭頭上的標識表示在目前狀態上收到該標識的輸入，遷移到下一個狀態。VS/DR的TCP狀態遷移是按照半串連的TCP有限狀態機器進行的。

 

通過IP隧道實現虛擬伺服器（VS/TUN）

　　跟VS/DR方法相同，VS/TUN多數Internet服務的非對稱特點，負載調度器中只負責調度請求，而伺服器直接將相應發送給客戶，可以極大地提高整個叢集系統的輸送量。IP隧道（IP tunneling）是將一個IP報文封裝在另一個IP報文的技術，這可以使得目標為一個IP地址的資料報文能被封裝和轉寄到另一個IP地址。

　　利用IP隧道技術將請求報文封裝轉寄給後端伺服器，響應報文能從後端伺服器直接返回給使用者。但在這裡，後端伺服器有一組而非一個，所以不可能靜態地建立一一對應的隧道。這樣，我們可以利用IP隧道的原理將一組伺服器上的網路服務組成在一個IP地址上的虛擬網路服務。

　　1、用戶端瀏覽器輸入58.251.62.141向58.251.62.141發出http請求

　　2、Load Balacer的外網（eth0）收到請求

　　　　

　　3、IPVS動態選擇一台伺服器，將請求報文封裝在另一個IP報文中

　　4、Load Balacer的內網（eth1）將封裝後的IP報文發送給Real Server

　　　　

　　5、Real Server的內網（eth1）收到Load Balacer發過來的IP報文並對IP報文解包，得到用戶端請求，發現包的目標地址被配置在本地的IP隧道裝置上，所以就處理這個請求。

　　6、Real Server根據路由表將響應報文通過外網（eth0）直接返回給客戶，請求報文的目標地址為VIP，響應報文的原地址也為VIP，所以報文不需要修改直接發送給客戶。

　　　　

　　7、客戶得到正常的服務，而不知道是哪一台伺服器處理的。

　　VS/DR負載調度器也只處於從客戶到伺服器的半串連中，按照半串連的TCP有限狀態機器進行狀態遷移。

VS/NAT 的優點是伺服器可以運行任何支援 TCP/IP 的作業系統，它只需要一個 IP 位址配置在調度器上，伺服器組可以用私人的 IP 位址。缺點是它的伸縮能力有限，當伺服器結點數目升到 20 時，調度器本身有可能成為系統的新瓶頸，因為在 VS/NAT 中請求和響應報文都需要通過負載調度器。VS/DR 優點是負載調度器可以處理大量的請求， 因為調度器只處理客戶到伺服器端的串連，響應資料可以直接從獨立的網路路由返回給客戶， 這可以極大地提高 LVS 叢集系統的伸縮性。 缺點是要求負載調度器與實際伺服器都有一塊網卡連在同一物理網段上，伺服器網路裝置（或者裝置別名）不作 ARP 響應，或者能將報文重新導向（Redirect）到本地的 Socket 連接埠上。VS/TUN 的優點是負載調度器可以處理大量的請求，它甚至可以調度百台以上的伺服器（同等規模的伺服器），而它不會成為系統的瓶頸，因為負載調度器只將請求調度到不同的後端伺服器，後端伺服器將應答的資料直接返回給使用者。缺點是 VS/TUN 技術有 IP 隧道的開銷並且對伺服器有要求，即所有的伺服器必須支援“IP Tunneling”或者“IP Encapsulation”協議。