大型互連網網站架構心得之一:分
首先,聲明一下,這是一篇從高人lovecherry博主那裡轉過來的,和大家分享一下,也給自己一個學習機會。
我們知道,對於一個大型網站來說,延展性是非常重要的,怎麼樣在縱向和橫向有良好的延展性,就需要在做架構設計的時候考慮到一個分的原則,我想在多個方面說一下怎麼分:
首先是橫向的分:
1. 大的網站化解為多個小網站:當我們一個網站有多個功能的時候,可以考慮把這個網站拆分成幾個小模組,每一個模組可以是一個網站,這樣的話我們到時候就可以很靈活地去把這些網站部署到不同的伺服器上。
2. 靜態動態分離:靜態檔案和動態檔案最好分離開成2個網站,我們知道靜態網站和動態網站對伺服器來說壓力的側重不同,前者可能重IO後者重CPU,那麼我們在選擇硬體的時候也可以有側重,而且靜態和動態內容的緩衝策略也不一樣。典型的應用,我們一般會有獨立的檔案或圖片伺服器。而且,使用不用的網域名稱還可以提高瀏覽器並行載入的能力。
3. 按照功能來分:比如有一個模組是負責上傳的,上傳操作很消耗時間,如果和其它應用混在一起的話很可能,一點點訪問就會使伺服器癱瘓,這種特殊的模組應該分開。安全的不安全的也要分開,還需要考慮到以後SSL的購買。
4. 我們不一定要全部用自己的伺服器,搜尋、報表可以依靠別人的服務,比如google的搜尋和報表格服務,自己做的不一定比得過別人,伺服器頻寬都省了。
其次是縱向的分:
1. 檔案也相當於資料庫,IO的流量可能比資料庫還大,這也算是縱向層級的訪問,上傳的檔案圖片一定要和WEB伺服器分開。當然,資料庫和網站都放在一個伺服器上的很少了,這是最基本的。
2. 對於涉及到資料庫訪問的動態程式來說,我們可以使用一個中介層(所謂的應用程式層或邏輯層)來訪問資料庫(部署在獨立的伺服器上),最大的好處就是緩衝和靈活性。緩衝的記憶體佔用比較大,我們要把它和網站進程分開,而且這樣做我們可以很方便的去改變一些資料訪問的策略,即使到時候資料庫有分布的話在這裡可以做一個調配工作,這樣靈活性就很大了。還有好處是中介層可以做電線網通橋樑,可能網通訪問雙線再訪問電信會比網通直接存取電信伺服器快。
有人說我不分,我可以做負載平衡,對,是可以的,但是如果分的話,同樣的10台機器肯定比不分10台機器可以承受更多的訪問量,而且對硬體的需求可能不會很高,因為知道需要哪個硬體特別好。爭取讓每一個服務期都不空閑,又都不是太忙,合理進行組合調整和擴充,這樣的系統伸縮性就高了,能根據訪問量來調整的前提就是之前有考慮到分,分的好處是靈活性、伸縮性、隔離性以及安全性。
對伺服器來說,我們有幾點是要長期觀察的,任何一點都可能是瓶頸:
1. CPU:動態檔案的解析需要比較多的CPU,CPU出現瓶頸就要看是不是哪個功能過長時間佔用線程,如果是就分出去。或者就是每一個請求處理時間不長,但是訪問量很高,那麼就加伺服器。CPU是好東西,不能讓他乾等,不做事情。
2. 記憶體:緩衝從IIS進程獨立出去,一般對WEB伺服器來說記憶體不夠的情況不是很多。記憶體比磁碟快,要合理利用。
3. 磁碟IO:用效能監控器找到哪些檔案IO特別大,找到了就分到獨立的一組檔案伺服器上去,或者直接做CDN。磁碟慢,大規模讀取資料的應用靠緩衝,大規模寫入資料的應用可以靠隊列來降低突發的並發。
4. 網路:我們知道,網路的通訊是比較慢的,比磁碟還慢,如果是做分布式緩衝,分散式運算的話,要考慮到物理伺服器之間網路通訊的時間,當然,在流量大了以後,這可以提高系統的接納能力一個等級。靜態內容可以藉助CSD分擔一部分,在做伺服器假設的時候還要考慮中國特色的電信網通情況以及防火牆。
對SQL SERVER資料庫伺服器來說[UPDATE]:
其實還是水平分割和縱向分割,一個二維表,水平分割就是橫過來切一刀,縱向分割就是豎直切一刀:
1、縱向分割就是,我們不同的應用可以分到不同的DB中,不同的執行個體中,或者說把某個擁有很多欄位的表拆分成小表。
2、橫向分割就是,某些應用可能不負載,比如使用者註冊,但是使用者表會非常大,可以把大表分開。可以採用表分區,資料存放區在不同檔案上,然後再部署到獨立物理伺服器增加IO吞吐以改善讀寫效能,土一點的做法就是自己定期把老的資料存檔。表分區的另外一個優勢可以增加資料查詢速度,因為我們的頁索引可以有多層了,就像一個檔案夾中的檔案不要太多,多分幾層檔案夾一樣。
3、還可以通過資料庫鏡像、複製訂閱、事物日誌,把讀寫分開到不同的鏡像物理資料庫上,一般來說夠用,如果還不行可以用硬體來實現資料庫的負載平衡。當然,對於BI,我們可能還會有資料倉儲。
架構上考慮到了這些之後,流量大了,就可以在這個的基礎上再去調整或者做WEB伺服器或者應用伺服器的負載平衡。很多時候我們都是在重複發現問題-》找到瓶頸-》解決這個過程。
典型的架構如下:
動態WEB伺服器配好點的CPU,靜態WEB伺服器和檔案伺服器磁碟好點
應用伺服器記憶體大點,快取服務器也是,資料庫伺服器當然記憶體和CPU都要好
請大家討論。。。。