redis高可用架構

標籤：sentinel redis 高可用 redis 主從 哨兵

一、背景

   公司的業務在大量的使用redis，訪問量大的業務我們有在使用codis叢集，redis 3.0叢集，說到redis 3.0叢集，我們線上已經跑了半年多了，叢集本身沒有出現過任務問題，但是由於我們這個業務是海外的，叢集建在aws的ec2上，由於ec2的網路抖動或者ec2本身的原因，導致主從切換，目前aws的技術正在跟進，這個叢集目前的QPS 50w+，叢集本身已經做到了高可用和橫向擴充，但是，實際情況一些小的業務沒必要上叢集，單個執行個體就可以滿足業務需求，那麼我們就要想辦法如何保證單個執行個體的高可用，最近也在看相關的文檔，做一些測試，大家有在使用redis主從+lvs 漂VIP的方案，也有使用redis主從+哨兵 漂VIP的方案，甚至有在代碼邏輯做故障切換等等，各種各樣的方案都有，下面我介紹一下redis主從+哨兵 漂VIP的方案，後面我們打算線上大規模的使用這個方案。

二、環境

#redis100.10.32.54:6400 主庫100.10.32.55:6400 從庫100.10.32.250 VIP#sentinel100.10.32.54:26400 sentinel 本地節點100.10.32.54:26400 sentinel 本地節點 100.10.32.57:26400 sentinel 仲裁節點

三、部署

1、安裝

yum -y install redis

2、撰寫redis設定檔（100.10.32.54 和100.10.32.55）

vim /etc/redis_6400.confdaemonize yespidfile "/var/run/redis_6400.pid"port 6400tcp-backlog 65535bind 0.0.0.0timeout 0tcp-keepalive 0loglevel noticelogfile "/var/log/redis/redis_6400.log"maxmemory 8gbmaxmemory-policy allkeys-lrudatabases 16save 900 1save 300 10save 60 10000stop-writes-on-bgsave-error yesrdbcompression yesrdbchecksum yesdbfilename "dump.rdb"dir "/data/redis/6400"slave-serve-stale-data yesslave-read-only yesrepl-disable-tcp-nodelay noslave-priority 100appendonly noappendfilename "appendonly.aof"appendfsync everysecno-appendfsync-on-rewrite noauto-aof-rewrite-percentage 100auto-aof-rewrite-min-size 64mblua-time-limit 5000slowlog-log-slower-than 10000slowlog-max-len 128notify-keyspace-events ""hash-max-ziplist-entries 512hash-max-ziplist-value 64list-max-ziplist-entries 512list-max-ziplist-value 64set-max-intset-entries 512zset-max-ziplist-entries 128

3、撰寫sentinel設定檔（100.10.32.54 、100.10.32.55 和100.10.32.57）

vim /etc/redis-sentinel6400.confdaemonize yesport 26400dir "/data/redis/redis_sentinels"pidfile "/var/run/redis/sentinel6400.pid"logfile "/data/redis/redis_sentinels/sentinel6400.log"sentinel monitor master6400 100.10.32.54 6400 2sentinel down-after-milliseconds master6400 6000sentinel failover-timeout master6400 18000sentinel client-reconfig-script master6400 /opt/notify_master6400.sh   ##仲裁節點無需添加這行配置，client-reconfig-script參數是在sentinel做failover的過程中呼叫指令碼漂vip到新的master上

PS：

關於sentinel 的一些工作原理和參數說明，請參閱：http://redisdoc.com/topic/sentinel.html

4、撰寫漂VIP的指令碼（100.10.32.54 、100.10.32.55）

vim /opt/notify_master6400.sh#!/bin/bashMASTER_IP=$6LOCAL_IP=‘100.10.32.54‘ #從庫修改為100.10.32.55VIP=‘100.10.32.250‘NETMASK=‘24‘         INTERFACE=‘eth0‘ if [ ${MASTER_IP} = ${LOCAL_IP} ]; then         /sbin/ip addr add ${VIP}/${NETMASK} dev ${INTERFACE}         /sbin/arping -q -c 3 -A ${VIP} -I ${INTERFACE}        exit 0else         /sbin/ip addr del ${VIP}/${NETMASK} dev ${INTERFACE}        exit 0fiexit 1

chmod +x /opt/notify_master6400.sh   #賦予可執行許可權

PS：

這裡大概說一下這個指令碼的工作原理，sentinel在做failover的 過程中會傳出6個參數，分別是<master-name>、 <role>、 <state>、 <from-ip>、 <from-port>、 <to-ip> 、<to-port>，其中第6個參數from-ip也就是新的master的ip，對應指令碼中的MASTER_IP，下面的if判斷大家應該都很瞭然了，如果MASTER_IP=LOCAL_IP，那就綁定VIP，反之刪除VIP。

5、啟動redis服務（100.10.32.54、100.10.32.55）

redis-server /etc/redis_6400.conf

6、初始化主從（100.10.32.55）

redis-cli -p 6400 slaveof 10.10.32.54 6400

7、綁定VIP到主庫（100.10.32.54）

/sbin/ip addr add 100.10.32.250/24 dev eth0

8、啟動sentinel服務（100.10.32.54、100.10.32.55、100.10.32.57）

redis-server /etc/redis-sentinel6400.conf --sentinel

至此，整個高可用方案已經搭建完成。

[[email protected] tmp]# redis-cli -h 100.10.32.54  -p 6400 info  Replication# Replicationrole:masterconnected_slaves:1slave0:ip=100.10.32.55,port=6400,state=online,offset=72669,lag=1master_repl_offset:72669repl_backlog_active:1repl_backlog_size:1048576repl_backlog_first_byte_offset:2repl_backlog_histlen:72668

[[email protected] tmp]# redis-cli -h 100.10.32.54  -p 26400 info Sentinel# Sentinelsentinel_masters:1sentinel_tilt:0sentinel_running_scripts:0sentinel_scripts_queue_length:0master0:name=master6400,status=ok,address=100.10.32.54:6400,slaves=1,sentinels=3

[[email protected] tmp]# ip a |grep eth02: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP qlen 1000    inet 100.10.32.54/24 brd 100.10.32.255 scope global eth0    inet 100.10.32.250/24 scope global secondary eth0

四、測試

1、把主庫停掉

redis-cli -h 100.10.32.54  -p 6400 shutdown

2、看從庫是否提升為主庫

[[email protected] tmp]# redis-cli -h 100.10.32.55 -p 6400 info Replication# Replicationrole:masterconnected_slaves:0master_repl_offset:0repl_backlog_active:0repl_backlog_size:1048576repl_backlog_first_byte_offset:0repl_backlog_histlen:0

3、看VIP是否漂移到100.10.32.55上

[[email protected] tmp]# ip a |grep eth02: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP qlen 1000    inet 100.10.32.55/24 brd 100.10.32.255 scope global eth0    inet 100.10.32.250/24 scope global secondary eth0

4、看Sentinel的監控狀態

[[email protected] tmp]# redis-cli -p 26400 info  Sentinel# Sentinelsentinel_masters:1sentinel_tilt:0sentinel_running_scripts:0sentinel_scripts_queue_length:0master0:name=master6400,status=ok,address=100.10.32.55:6400,slaves=1,sentinels=3

本文出自 “屌絲營運男” 部落格，請務必保留此出處http://navyaijm.blog.51cto.com/4647068/1745569

redis高可用架構