標籤:設定 是什麼 memcached idf 寫入 怎樣 常用 執行個體 替代
Redis
Redis的優點:
支援多種資料結構,如 string(字串)、 list(雙向鏈表)、dict(hash表)、set(集合)、zset(排序set)、hyperloglog(基數估算)支援持久化操作,可以進行aof及rdb資料持久化到磁碟,從而進行資料備份或資料恢複等操作,較好的防止資料丟失的手段。支援通過Replication進行資料複製,通過master-slave機制,可以即時進行資料的同步複製,支援多級複製和差異複寫,master-slave機制是Redis進行HA的重要手段。單線程請求,所有命令串列執行,並發情況下不需要考慮資料一致性問題。支援pub/sub訊息訂閱機制,可以用來進行訊息訂閱與通知。支援簡單的事務需求,但業界使用情境很少,並不成熟。
Redis的局限性:
Redis只能使用單線程,效能受限於CPU效能,故單一實例CPU最高才可能達到5-6wQPS每秒(取決於資料結構,資料大小以及伺服器硬體效能,日常環境中QPS高峰大約在1-2w左右)。支援簡單的事務需求,但業界使用情境很少,並不成熟,既是優點也是缺點。Redis在string類型上會消耗較多記憶體,可以使用dict(hash表)壓縮儲存以降低記憶體耗用。
Mc和Redis都是Key-Value類型,不適合在不同資料集之間建立關係,也不適合進行查詢搜尋。比如redis的keys pattern這種匹配操作,對redis的效能是災難。
Memcached
Memcached的優點:
Memcached可以利用多核優勢,單一實例輸送量極高,可以達到幾十萬QPS(取決於key、value的位元組大小以及伺服器硬體效能,日常環境中QPS高峰大約在4-6w左右)。適用於最大程度扛量。支援直接配置為session handle。
Memcached的局限性:
只支援簡單的key/value資料結構,不像Redis可以支援豐富的資料類型。
無法進行持久化,資料不能備份,只能用於緩衝使用,且重啟後資料全部丟失。
無法進行資料同步,不能將MC中的資料移轉到其他MC執行個體中。
Memcached記憶體配置採用Slab Allocation機制管理記憶體,value大小分布差異較大時會造成記憶體利用率降低,並引發低利用率時依然出現踢出等問題。需要使用者注重value設計。
mongoDB
mongoDB 是一種文檔性的資料庫。先解釋一下文檔的資料庫,即可以存放xml、json、bson類型系那個的資料。
這些資料具備自述性(self-describing),呈現分層的樹狀資料結構。redis可以用hash存放簡單關係型資料。
mongoDB 存放json格式資料。
適合情境:事件記錄、內容管理或者部落格平台,比如評論系統。
1.mongodb持久化原理
mongodb與mysql不同,mysql的每一次更新操作都會直接寫入硬碟,但是mongo不會,做為記憶體型資料庫,資料操作會先寫入記憶體,然後再會持久化到硬碟中去,那麼mongo是如何持久化的呢
mongodb在啟動時,專門初始化一個線程不斷迴圈(除非應用crash掉),用於在一定時間周期內來從defer隊列中擷取要持久化的資料並寫入到磁碟的journal(日誌)和mongofile(資料)處,當然因為它不是在使用者添加記錄時就寫到磁碟上,所以按mongodb開發人員說,它不會造成效能上的損耗,因為看過代碼發現,當進行CUD操作時,記錄(Record類型)都被放入到defer隊列中以供延時批量(groupcommit)提交寫入,但相信其中時間周期參數是個要認真考量的參數,系統為90毫秒,如果該值更低的話,可能會造成頻繁磁碟操作,過高又會造成系統宕機時資料丟失過。
2.什麼是NoSQL資料庫?NoSQL和RDBMS有什麼區別?在哪些情況下使用和不使用NoSQL資料庫
NoSQL是非關係型資料庫,NoSQL = Not Only SQL。
關係型資料庫採用的結構化的資料,NoSQL採用的是索引值對的方式儲存資料。
在處理非結構化/半結構化的大資料時;在水平方向上進行擴充時;隨時應對動態增加的資料項目時可以優先考慮使用NoSQL資料庫。
在考慮資料庫的成熟度等級;支援;分析和商業智慧;管理及專業性等問題時,應優先考慮關係型資料庫。
3.MySQL和MongoDB之間最基本的區別是什嗎?
關係型資料庫與非關係型資料庫的區別,即資料存放區結構的不同。
4.MongoDB的特點是什嗎?
(1)面向文檔(2)高效能(3)高可用(4)易擴充(5)豐富的查詢語言
5.MongoDB支援預存程序嗎?如果支援的話,怎麼用?
MongoDB支援預存程序,它是javascript寫的,儲存在db.system.js表中。
6.如何理解MongoDB中的GridFS機制,MongoDB為何使用GridFS來隱藏檔?
GridFS是一種將大型檔案儲存體在MongoDB中的檔案規格。使用GridFS可以將大檔案分隔成多個小文檔存放,這樣我們能夠有效儲存大文檔,而且解決了BSON對象有限制的問題。
7.為什麼MongoDB的資料檔案很大?
MongoDB採用的預分配空間的方式來防止檔案片段。
8.當更新一個正在被遷移的塊(Chunk)上的文檔時會發生什嗎?
更新操作會立即發生在舊的塊(Chunk)上,然後更改才會在所有權轉移前複製到新的分區上。
9.MongoDB在A:{B,C}上建立索引,查詢A:{B,C}和A:{C,B}都會使用索引嗎?
不會,只會在A:{B,C}上使用索引。
10.如果一個分區(Shard)停止或很慢的時候,發起一個查詢會怎樣?
如果一個分區停止了,除非查詢設定了“Partial”選項,否則查詢會返回一個錯誤。如果一個分區響應很慢,MongoDB會等待它的響應。
Redis、Memcache和MongoDB的區別
從以下幾個維度,對redis、memcache、mongoDB 做了對比,
1、效能
都比較高,效能對我們來說應該都不是瓶頸
總體來講,TPS方面redis和memcache差不多,要大於mongodb
2、操作的便利性
memcache資料結構單一
redis豐富一些,資料操作方面,redis更好一些,較少的網路IO次數
mongodb支援豐富的資料表達,索引,最類似關係型資料庫,支援的查詢語言非常豐富
3、記憶體空間的大小和資料量的大小
redis在2.0版本後增加了自己的VM特性,突破實體記憶體的限制;可以對key value設定到期時間(類似memcache)
memcache可以修改最大可用記憶體,採用LRU演算法
mongoDB適合大資料量的儲存,依賴作業系統VM做記憶體管理,吃記憶體也比較厲害,服務不要和別的服務在一起
4、可用性(單點問題)
對於單點問題,
redis,依賴用戶端來實現分布式讀寫;主從複製時,每次從節點重新串連主節點都要依賴整個快照,無差異複寫,因效能和效率問題,
所以單點問題比較複雜;不支援自動sharding,需要依賴程式設定一致hash 機制。
一種替代方案是,不用redis本身的複製機制,採用自己做主動複製(多份儲存),或者改成差異複寫的方式(需要自己實現),一致性問題和效能的權衡
Memcache本身沒有資料冗餘機制,也沒必要;對於故障預防,採用依賴成熟的hash或者環狀的演算法,解決單點故障引起的抖動問題。
mongoDB支援master-slave,replicaset(內部採用paxos選舉演算法,自動故障恢複),auto sharding機制,對用戶端屏蔽了容錯移轉和切分機制。
5、可靠性(持久化)
對於資料持久化和資料恢複,
redis支援(快照、AOF):依賴快照進行持久化,aof增強了可靠性的同時,對效能有所影響
memcache不支援,通常用在做緩衝,提升效能;
MongoDB從1.8版本開始採用binlog方式支援持久化的可靠性
6、資料一致性(事務支援)
Memcache 在並發情境下,用cas保證一致性
redis事務支援比較弱,只能保證事務中的每個操作連續執行
mongoDB不支援事務
7、資料分析
mongoDB內建了資料分析的功能(mapreduce),其他不支援
8、應用情境
redis:資料量較小的更效能操作和運算上
memcache:用於在動態系統中減少資料庫負載,提升效能;做緩衝,提高效能(適合讀多寫少,對於資料量比較大,可以採用sharding)
MongoDB:主要解決海量資料的訪問效率問題
redis,memcached,mongodb之間的區別