前些年,HandlerSocket的橫空出世讓人們眼前一亮,當時我還寫了一篇文章介紹了其用法梗概,時至今日,由於種種原因,HandlerSocket並沒有真正流行起來,不過慶幸的是MySQL官方受其啟發,研發了基於InnoDB的Memcached外掛程式,總算是在MySQL中延續了NoSQL的香火,以前單獨架設Memcached伺服器不僅浪費了記憶體,而且還必須自己維護資料的不一致問題,有了Memcached外掛程式,這些問題都不存在了,而且藉助MySQL本身的複製功能,我們可以說是變相的實現了Memcached的複製,這更是意外之喜。
安裝
為了讓文章更具完整性,我們選擇從原始碼安裝MySQL,需要注意的是早期的版本有記憶體流失,所以推薦安裝最新的穩定版,截至本文發稿時為止,最新的穩定版是5.6.13,我們就以此為例來說明,過程很簡單,只要啟用了WITH_INNODB_MEMCACHED即可:
shell> groupadd mysqlshell> useradd -r -g mysql mysqlshell> tar zxvf mysql-5.6.13.tar.gzshell> cd mysql-5.6.13shell> cmake . -DWITH_INNODB_MEMCACHED=ONshell> makeshell> make installshell> cd /usr/local/mysqlshell> chown -R mysql .shell> chgrp -R mysql .shell> scripts/mysql_install_db --user=mysqlshell> chown -R root .shell> chown -R mysql datashell> bin/mysqld_safe --user=mysql &shell> cp support-files/mysql.server /etc/init.d/mysql.server
MySQL安裝完畢後,在外掛程式目錄我們能看到innodb_engine.so和libmemcached.so:
mysql> SELECT @@plugin_dir;+------------------------------+| @@plugin_dir |+------------------------------+| /usr/local/mysql/lib/plugin/ |+------------------------------+
此外還需要匯入Memcached外掛程式所需要的表結構:
mysql> SOURCE /usr/local/mysql/share/innodb_memcached_config.sql
一切就緒後就可以啟用Memcached外掛程式了(當然如果需要的話也可以禁止):
mysql> INSTALL PLUGIN daemon_memcached soname "libmemcached.so";mysql> UNINSTALL PLUGIN daemon_memcached;
說明:如果要重啟外掛程式的話,可以先uninstall,再install。
Memcached外掛程式相關的配置資訊如下,具體介紹可以參考官方文檔:
mysql> SHOW VARIABLES LIKE '%memcached%';+----------------------------------+------------------+| Variable_name | Value |+----------------------------------+------------------+| daemon_memcached_enable_binlog | OFF || daemon_memcached_engine_lib_name | innodb_engine.so || daemon_memcached_engine_lib_path | || daemon_memcached_option | || daemon_memcached_r_batch_size | 1 || daemon_memcached_w_batch_size | 1 |+----------------------------------+------------------+
注意:daemon_memcached_r_batch_size和daemon_memcached_w_batch_size,這兩個選項對效能影響較大,簡單點說就是控制事務提交的頻率,MySQL的預設值均為1,也就是說每次都提交,這主要是從安全性考慮的,大家可以依照自己的情況來調整。
差不多了,此時Memcached連接埠應該準備就緒了,你可以試試看:
shell> echo "stats" | nc localhost 11211
換句話說,MySQL已經相容Memcached協議,可以直接使用Memcached命令。
配置
在安裝步驟裡,我們匯入了一個名為innodb_memcached_config.sql的指令碼,它建立了一庫(innodb_memcache)三表(cache_policies, config_options, containers):
mysql> USE innodb_memcachemysql> SHOW TABLES;+---------------------------+| Tables_in_innodb_memcache |+---------------------------+| cache_policies || config_options || containers |+---------------------------+
cache_policies定義了緩衝策略,包含如下選擇:
innodb_only:只使用InnoDB作為資料存放區。
cache-only:只使用傳統的Memcached引擎作為後端儲存。
caching:二者皆使用,如果在Memcached裡找不到,就查詢InnoDB。
config_options定義了分隔字元號:
separator:Memcached只識別單值,使用此分隔字元(|)來串連多個欄位的值。
table_map_delimiter:通過此分隔字元(.)來確認表和鍵,如:@@table.key。
如果我們想通過Memcached協議來訪問一個表,需要先在containers中配置它:
mysql> SELECT * FROM containers\G*************************** 1. row *************************** name: aaa db_schema: test db_table: demo_test key_columns: c1 value_columns: c2 flags: c3 cas_column: c4 expire_time_column: c5unique_idx_name_on_key: PRIMARY
如上已經有了test資料庫的demo_test表,通過c1查詢c2的值,表結構如下所示:
mysql> DESC test.demo_test;+-------+---------------------+------+-----+---------+-------+| Field | Type | Null | Key | Default | Extra |+-------+---------------------+------+-----+---------+-------+| c1 | varchar(32) | NO | PRI | | || c2 | varchar(1024) | YES | | NULL | || c3 | int(11) | YES | | NULL | || c4 | bigint(20) unsigned | YES | | NULL | || c5 | int(11) | YES | | NULL | |+-------+---------------------+------+-----+---------+-------+
預設情況下有一行資料:
mysql> SELECT * FROM test.demo_test;+----+--------------+------+------+------+| c1 | c2 | c3 | c4 | c5 |+----+--------------+------+------+------+| AA | HELLO, HELLO | 8 | 0 | 0 |+----+--------------+------+------+------+
讓我們用Memcached協議來訪問看看:
shell> echo "get @@aaa.AA" | nc localhost 11211VALUE @@aaa.AA 8 12HELLO, HELLOEND
我們還可以先設定預設訪問的表,然後後續的查詢就唯寫鍵名就可以了:
shell> (echo "get @@aaa"; echo "get AA") | nc localhost 11211VALUE @@aaa 0 14test/demo_testENDVALUE AA 8 12HELLO, HELLOEND
雖然我的例子都是通過命令列執行的,但是大家很容易就更改寫成PHP之類的方法。
限制
Memcached外掛程式用起來非常簡單,不過並不是一切都很完美,比如說:當我們配置表的時候,containers表的欄位,除了key_columns和value_columns以外,其它的欄位,如:flags,cas_column,expire_time_column等也必須設定,可是很多時候,我們在原表中找不到貼切的欄位,此時就只能對應建立三個欄位,味道很噁心。
此外,containers表還有如下限制:
- key_columns欄位的類型必須是CHAR或VARCHAR,且最大長度是250個字元。
- value_columns欄位的類型必須是CHAR或VARCHAR或BLOB,長度不限。
- cas_column欄位的類型必須是BIGINT。
- expiration_time_column欄位的類型必須是INT。
- flags欄位的類型必須是INT。
說明:隨著MySQL版本的更新,這些限制可能會發生變化,請大家以實際情況為準。
實戰
讓我們以一個使用者登入的例子來檢驗一下學習成果:
首先在測試資料庫建立一個使用者表:
USE `test` CREATE TABLE `users` ( `id` INT(10) UNSIGNED NOT NULL AUTO_INCREMENT, `username` VARCHAR(15) NOT NULL, `password` VARCHAR(32) NOT NULL, `email` VARCHAR(50) NOT NULL, `flags` INT(10) UNSIGNED DEFAULT '0', `cas_column` BIGINT(20) UNSIGNED DEFAULT '0', `expire_time_column` INT(10) UNSIGNED DEFAULT '0', PRIMARY KEY (`id`), UNIQUE KEY `username` (`username`)) ENGINE=InnoDB;
然後添加幾行測試資料:
INSERT INTO `users` (`username`, `password`, `email`)VALUES('foo', 'ffffffffffffffffffffffffffffffff', 'foo@domain.com'),('bar', 'bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb', 'bar@domain.com');
接著在containers裡配置這個表:
INSERT INTO innodb_memcache.containers ( name, db_schema, db_table, key_columns, value_columns, flags, cas_column, expire_time_column, unique_idx_name_on_key) VALUES ( 'default', 'test', 'users', 'username', 'password|email', 'flags', 'cas_column', 'expire_time_column', 'username');
這裡我們定義了多個欄位(password和email)作為value_columns,並且使用豎線作為分隔字元,實際上使用空格,逗號之類分隔字元也可以,在innodb_config.c檔案的原始碼中能查到如下關於分隔字元的定義,文檔裡並沒有涵蓋這些資訊:
static const char* sep = " ;,|\n";
最後使用Memcached協議來訪問一下,這裡我們換個花樣,執行一個MGET操作:
shell> echo "get foo bar" | nc localhost 11211VALUE foo 0 47ffffffffffffffffffffffffffffffff|foo@domain.comVALUE bar 0 47bbbbbbbbbbbbbbbbbbbbbbbbbbbbbbbb|bar@domain.comEND
既然我定義value_columns的時候設定了多個欄位,那麼返回資料的時候自然也返回多個欄位的資料,並且它們依照innodb_memcache.config_options表中的separator欄位來分隔,預設情況下是一個豎線,如果你的欄位內容裡包含了豎線,那麼就會和預設值發生衝突,此時你可以更新separator的定義,比如改成三個豎線等等,需要提醒的是,修改後別忘了重啟Memcached外掛程式。
說明:因為們在配置的時候把表命名為default,所以在請求的時候不用傳遞表名。如果不存在default,那麼會把名字按照字母順序正序排列,排在第一位的就是預設。
…
本文在使用Memcached外掛程式的時候,所有例子均使用的是讀操作,實際上寫操作也是支援的,不過在實際使用時,我更傾向於寫操作都通過SQL來執行,而Memcached外掛程式僅處理KV形式的讀操作,實際壓力測試的結果顯示,Memcached外掛程式比SQL的方式,效能提升了百分之一百左右,雖然仍不及獨立的Memcached,但考慮到其它的優勢,這個結果已經很讓人欣喜了,下一站,InnoDB的Memcached外掛程式!大家做好準備吧。