MYSQL 分表實踐

標籤：

 

　　基本條件：

　　　　無索引

　　　　主表 test_0 資料：一百萬條  資料庫引擎 InnoDb

　　　　分表 test_1...test_100 資料 每張一萬條，一共一百萬條  資料庫引擎 InnoDb

　　流程：

　　　　主表中修改100條資料，計算花費時間

　　　　某一張分表中修改1條資料，計算花費時間

　　　　在總表中查詢一個SQL，計算花費時間

　　　　在100張分表中查詢一個SQL，計算花費時間

　　　　

　　　　可以看出，在總表和分表，在百萬層級一下，修改的時間差不多，但在查詢的時候，差別非常大，當然這是和索引有關，後自測100W，有索引，速度還是相當快的，不過這個就當對比，1000W資料插插都好幾個小時

　　接下來的是我從別的部落格轉來的，個人感覺寫的非常好，http://wentao365.iteye.com/blog/1740874

 

單庫單表

單庫單表是最常見的資料庫設計，例如，有一張使用者(user)表放在資料庫db中，所有的使用者都可以在db庫中的user表中查到。


單庫多表

隨著使用者數量的增加，user表的資料量會越來越大，當資料量達到一定程度的時候對user表的查詢會漸漸的變慢，從而影響整個DB的效能。如果使用mysql, 還有一個更嚴重的問題是，當需要添加一列的時候，mysql會鎖表，期間所有的讀寫操作只能等待。

可以通過某種方式將user進行水平的切分，產生兩個表結構完全一樣的user_0000,user_0001等表，user_0000 + user_0001 + …的資料剛好是一份完整的資料。


多庫多表

         隨著資料量增加也許單台DB的儲存空間不夠，隨著查詢量的增加單台資料庫伺服器已經沒辦法支撐。這個時候可以再對資料庫進行水平區分。


分庫分表規則

         設計表的時候需要確定此表按照什麼樣的規則進行分庫分表。例如，當有新使用者時，程式得確定將此使用者資訊添加到哪個表中；同理，當登入的時候我們得通過使用者的帳號找到資料庫中對應的記錄，所有的這些都需要按照某一規則進行。
路由

         通過分庫分表規則尋找到對應的表和庫的過程。如分庫分表的規則是user_id mod 4的方式，當使用者新註冊了一個帳號，帳號id的123,我們可以通過id mod 4的方式確定此帳號應該儲存到User_0003表中。當使用者123登入的時候，我們通過123 mod 4後確定記錄在User_0003中。
分庫分表產生的問題，及注意事項

1.   分庫分表維度問題

假如使用者購買了商品,需要將交易記錄儲存取來，如果按照使用者的緯度分表，則每個使用者的交易記錄都儲存在同一表中，所以很快很方便的尋找到某使用者的購買情況，但是某商品被購買的情況則很有可能分布在多張表中，尋找起來比較麻煩。反之，按照商品維度分表，可以很方便的尋找到此商品的購買情況，但要尋找到買人的交易記錄比較麻煩。



所以常見的解決方式有：

     a.通過掃表的方式解決，此方法基本不可能，效率太低了。

     b.記錄兩份資料，一份按照使用者緯度分表，一份按照商品維度分表。

     c.通過搜尋引擎解決，但如果即時性要求很高，又得關係到即時搜尋。



2.   聯集查詢的問題

聯集查詢基本不可能，因為關聯的表有可能不在同一資料庫中。



3.   避免跨庫事務

避免在一個事務中修改db0中的表的時候同時修改db1中的表，一個是操作起來更複雜，效率也會有一定影響。



4.   盡量把同一組資料放到同一DB伺服器上

例如將賣家a的商品和交易資訊都放到db0中，當db1掛了的時候，賣家a相關的東西可以正常使用。也就是說避免資料庫中的資料依賴另一資料庫中的資料。

一主多備

在實際的應用中，絕大部分情況都是讀遠大於寫。Mysql提供了讀寫分離的機制，所有的寫操作都必須對應到Master，讀操作可以在Master和Slave機器上進行，Slave與Master的結構完全一樣，一個Master可以有多個Slave,甚至Slave下還可以掛Slave,通過此方式可以有效提高DB叢集的QPS.                                                      

所有的寫操作都是先在Master上操作，然後同步更新到Slave上，所以從Master同步到Slave機器有一定的延遲，當系統很繁忙的時候，延遲問題會更加嚴重，Slave機器數量的增加也會使這個問題更加嚴重。

此外，可以看出Master是叢集的瓶頸，當寫操作過多，會嚴重影響到Master的穩定性，如果Master掛掉，整個叢集都將不能正常工作。

所以，1. 當讀壓力很大的時候，可以考慮添加Slave機器的分式解決，但是當Slave機器達到一定的數量就得考慮分庫了。 2. 當寫壓力很大的時候，就必須得進行分庫操作。

---------------------------------------------

MySQL使用為什麼要分庫分表
可以用說用到MySQL的地方,只要資料量一大, 馬上就會遇到一個問題,要分庫分表.
這裡引用一個問題為什麼要分庫分表呢?MySQL處理不了大的表嗎?
其實是可以處理的大表的.我所經曆的項目中單表物理上檔案大小在80G多,單表記錄數在5億以上,而且這個表
屬於一個非常核用的表:朋友關係表.

但這種方式可以說不是一個最佳方式. 因為面臨檔案系統如Ext3檔案系統對大於大檔案處理上也有許多問題.
這個層面可以用xfs檔案系統進行替換.但MySQL單表太大後有一個問題是不好解決: 表結構調整相關的操作基
本不在可能.所以大項在使用中都會面監著分庫分表的應用.

從Innodb本身來講資料檔案的Btree上只有兩個鎖, 葉子節點鎖和子節點鎖,可以想而知道,當發生頁面分割或是添加
新葉時都會造成表裡不能寫入資料.
所以分庫分表還就是一個比較好的選擇了.

那麼分庫分表多少合適呢?
經測試在單表1000萬條記錄一下,寫入讀取效能是比較好的. 這樣在留點buffer,那麼單表全是資料字型的保持在
800萬條記錄以下, 有字元型的單表保持在500萬以下.

如果按 100庫100表來規劃,如使用者業務:
500萬*100*100 = 50000000萬 = 5000億記錄.

心裡有一個數了,按業務做規劃還是比較容易的. 

　　　　

　　

MYSQL 分表實踐