從MySQL到Redis的簡單資料庫遷移方法_Redis

來源:互聯網
上載者:User

 從mysql搬一個大表到redis中,你會發現在提取、轉換或是載入一行資料時,速度慢的讓你難以忍受。這裡我就要告訴一個讓你解脫的小技巧。使用“管道輸出”的方式把mysql命令列產生的內容直接傳遞給redis-cli,以繞過“中介軟體”的方式使兩者在進行資料操作時達到最佳速度。

一個約八百萬行資料的mysql表,原本匯入到redis中需要90分鐘,使用這個方法後,只需要兩分鐘。不管你信不信,反正我是信了。

Mysql到Redis的資料協議

redis-cli命令列工具有一個批量插入模式,是專門為批量執行命令設計的。這第一步就是把Mysql查詢的內容格式化成redis-cli可用的資料格式。here we go!


我的統計表:
 

CREATE TABLE events_all_time ( id int(11) unsigned NOT NULL AUTO_INCREMENT, action varchar(255) NOT NULL, count int(11) NOT NULL DEFAULT 0, PRIMARY KEY (id), UNIQUE KEY uniq_action (action));

準備在每行資料中執行的redis命令如下:
 
HSET events_all_time [action] [count]
按照以上redis命令規則,建立一個events_to_redis.sql檔案,內容是用來產生redis資料協議格式的SQL:
 
-- events_to_redis.sql
 

SELECT CONCAT( "*4\r\n", '$', LENGTH(redis_cmd), '\r\n', redis_cmd, '\r\n', '$', LENGTH(redis_key), '\r\n', redis_key, '\r\n', '$', LENGTH(hkey), '\r\n', hkey, '\r\n', '$', LENGTH(hval), '\r\n', hval, '\r')FROM ( SELECT 'HSET' as redis_cmd, 'events_all_time' AS redis_key, action AS hkey, count AS hval FROM events_all_time) AS t

ok, 用下面的命令執行:
 

mysql stats_db --skip-column-names --raw < events_to_redis.sql | redis-cli --pipe

很重要的mysql參數說明:

  • --raw: 使mysql不轉換欄位值中的分行符號。
  • --skip-column-names: 使mysql輸出的每行中不包含列名。
相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.