本文對Web伺服器和應用伺服器的負載平衡進行說明。
在負載平衡的思路下，多台伺服器為對稱方式，每台伺服器都具有同等的地位，可以單獨對外提供服務而無須其他伺服器的輔助。通過負載分擔技術，將外部發送來的請求按一定規則分配到對稱結構中的某一台伺服器上，而接收到請求的伺服器都獨立回應客戶機的請求。
提供服務的一組伺服器組成了一個應用伺服器叢集(cluster)，並對外提供一個統一的地址。當一個服務要求被發至該叢集時，根據一定規則選擇一台伺服器，並將服務轉定向給該伺服器承擔，即將負載進行均衡分攤。
通過應用負載平衡技術，使應用服務超過了一台伺服器只能為有限使用者提供服務的限制，可以利用多台伺服器同時為大量使用者提供服務。當某台伺服器出現故障時，負載平衡伺服器會自動進行檢測並停止將服務要求分發至該伺服器，而由其他工作正常的伺服器繼續提供服務，從而保證了服務的可靠性。
上述的叢集技術一般都用於Web伺服器、應用伺服器等，而不是用於資料庫伺服器，即不是用於有共用的儲存的服務。資料庫伺服器將涉及到加鎖、復原等一系列問題，要複雜的多。一般資料庫伺服器只是使用雙機，其中一台工作，另一台備份。資料庫的雙機並行只用於大型資料庫中。可參見：
系統高可用性與雙機備份常見問題與方案選擇
http://www.itmgt.com.cn/ha/hafaq.htm
負載平衡實現的方法有幾種：
1.最簡單的是通過DNS，但只能實現簡單的輪流分配，也不能處理故障
2.如果是基於MS IIS，Windows 2003 Server本身就帶了負載平衡服務，不需另外購買。但這一服務也只是輪流分配。
3.硬體方式，通過交換器的功能或專門的負載平衡裝置可以實現。對於流量的分配可以有多種方式，但基本上都是應用無關的，與伺服器的實現負載關係也不大。另外，裝置的價格較貴(優點是能支援很多台伺服器)。這種方式往往適合大流量、簡單應用。
4.軟體方式，通過一台負載平衡伺服器進行，上面安裝軟體。這種方式比較靈活，成本相對也較低。另外一個很大的優點就是可以根據應用的情況和伺服器的情況採取一些策略。
關於負載平衡中比較進階的功能是FailOver，即一台出現故障時，在這台伺服器上進行中中的進程也會被其他伺服器接過去。相應的成本也很高，一般是要象WebLogic、WebSphere軟體的群集版本才支援。
