redis-高可用方案-主从-哨兵

redis-高可用方案

“高可用性”（High Availability）通常来描述一个系统经过专门的设计，从而减少停工时间，而保持其服务的高度可用性。 CAP的A AP模型 单机的Redis是无法保证高可用性的，当Redis服务器宕机后，即使在有持久化的机制下也无法保证不丢失数据。

所以我们采用Redis多机和集群的方式来保证Redis的高可用性。 单进程+单线程 + 多机 （集群)

主从复制

Redis支持主从复制功能，可以通过执行slaveof（Redis5以后改成replicaof）或者在配置文件中设置slaveof(Redis5以后改成replicaof)来开启复制功能

主对外从对内，主可写从不可写主挂了，从不可为主

主从配置

主Redis配置 无需特殊配置

从Redis配置

修改从服务器上的 redis.conf 文件：

# slaveof <masterip> <masterport> # 表示当前【从服务器】对应的【主服务器】的IP是192.168.10.135，端口是6379。 replicaof 127.0.0.1 6379

作用

读写分离 一主多从，主从同步 主负责写，从负责读 提升Redis的性能和吞吐量 主从的数据一致性问题

数据容灾

从机是主机的备份 主机宕机，从机可读不可写 默认情况下主机宕机后，从机不可为主机 利用哨兵可以实现主从切换，做到高可用

原理与实现

复制流程

保存主节点信息

当客户端向从服务器发送slaveof(replicaof) 主机地址（127.0.0.1） 端口（6379）时：从服务器将主机ip（127.0.0.1）和端口（6379）保存到redisServer的masterhost和masterport中

Struct redisServer{ char *masterhost;//主服务器ip int masterport;//主服务器端口 } ;

从服务器将向发送SLAVEOF命令的客户端返回OK，表示复制指令已经被接收，而实际上复制工作是在OK返回之后进行。

建立socket连接

slaver与master建立socket连接 slaver关联文件事件处理器 该处理器接收RDB文件（全量复制）、接收Master传播来的写命令（增量复制） 主服务器accept从服务器Socket连接后，创建相应的客户端状态。相当于从服务器是主服务器的Client端

发送ping命令

Slaver向Master发送ping命令 1、检测socket的读写状态 2、检测Master能否正常处理

Master的响应：

1、发送“pong” , 说明正常 2、返回错误，说明Master不正常 3、timeout，说明网络超时 权限验证 主从正常连接后，进行权限验证 主未设置密码（requirepass=“”） ，从也不用设置密码（masterauth=“”） 主设置密码(requirepass!=""),从需要设置密码(masterauth=主的requirepass的值) 或者从通过auth命令向主发送密码

发送端口信息

在身份验证步骤之后，从服务器将执行命令REPLCONF listening-port ，向主服务器发送从服务器的监听端口号。

同步数据

Redis 2.8之后分为全量同步和增量同步

命令传播

当同步数据完成后，主从服务器就会进入命令传播阶段，主服务器只要将自己执行的写命令发送给从服务器，而从服务器只要一直执行并接收主服务器发来的写命令

同步数据集

Redis 2.8以前使用SYNC命令同步复制 Redis 2.8之后采用PSYNC命令替代SYNC

旧版本

Redis 2.8以前 实现方式 Redis的同步功能分为同步(sync)和命令传播(command propagate)。

1）同步操作：

通过从服务器发送到SYNC命令给主服务器主服务器生成RDB文件并发送给从服务器，同时发送保存所有写命令给从服务器从服务器清空之前数据并执行解释RDB文件保持数据一致（还需要命令传播过程才能保持一致）

2）命令传播操作：

同步操作完成后，主服务器执行写命令，该命令发送给从服务器并执行，使主从保存一致。 缺陷 没有全量同步和增量同步的概念，从服务器在同步时，会清空所有数据。 主从服务器断线后重复制，主服务器会重新生成RDB文件和重新记录缓冲区的所有命令，并全量同步到 从服务器上

新版

Redis 2.8以后 实现方式 在Redis 2.8之后使用PSYNC命令，具备完整重同步和部分重同步模式。 Redis 的主从同步，分为全量同步和增量同步。 只有从机第一次连接上主机是全量同步。 断线重连有可能触发全量同步也有可能是增量同步（ master 判断 runid 是否一致）。

除此之外的情况都是增量同步

全量同步

Redis 的全量同步过程主要分三个阶段： 同步快照阶段： Master 创建并发送快照RDB给 Slave ， Slave 载入并解析快照。 Master 同时将此阶段所产生的新的写命令存储到缓冲区。 同步写缓冲阶段： Master 向 Slave 同步存储在缓冲区的写操作命令。 同步增量阶段： Master 向 Slave 同步写操作命令

增量同步 Redis增量同步主要指Slave完成初始化后开始正常工作时， Master 发生的写操作同步到 Slave 的过程。 通常情况下， Master 每执行一个写命令就会向 Slave 发送相同的写命令，然后 Slave 接收并执行。

心跳检测

在命令传播阶段，从服务器默认会以每秒一次的频率向主服务器发送命令

replconf ack <replication_offset> #ack :应答 #replication_offset：从服务器当前的复制偏移量

主要作用有三个

检测主从的连接状态 检测主从服务器的网络连接状态 通过向主服务器发送INFO replication命令，可以列出从服务器列表，可以看出从最后一次向主发送命令距离现在过了多少秒。lag的值应该在0或1之间跳动，如果超过1则说明主从之间的连接有故障。

辅助实现min-slaves Redis可以通过配置防止主服务器在不安全的情况下执行写命令 min-slaves-to-write 3 （min-replicas-to-write 3 ） min-slaves-max-lag 10 （min-replicas-max-lag 10） 上面的配置表示：从服务器的数量少于3个，或者三个从服务器的延迟（lag）值都大于或等于10秒时，服务器将拒绝执行写命令。这里的延迟值就是上面INFOreplication命令的lag值

检测命令丢失 如果因为网络故障，主服务器传播给从服务器的写命令在半路丢失，那么当从服务器向主服务器发送REPLCONF ACK命令时， 主服务器将发觉从服务器当前的复制偏移量少于自己的复制偏移量， 然后主服务器就会根据从服务器提交的复制偏移量， 在复制积压缓冲区里面找到从服务器缺少的数据，并将这些数据重新发送给从服务器。（补发） 网络不断

增量同步：网断了，再次连接时

哨兵模式

哨兵（sentinel）是Redis的高可用性(High Availability)的解决方案： 由一个或多个sentinel实例组成sentinel集群可以监视一个或多个主服务器和多个从服务器。 当主服务器进入下线状态时，sentinel可以将该主服务器下的某一从服务器升级为主服务器继续提供服务，从而保证redis的高可用性

部署方案

搭建配置

在一台机器上采用伪分布式的方式部署。（生产环境应该是多台机器） 根据上面的部署方案搭建如下：

Redis-Master ：127.0.0.1 6379

采用安装的方式，正常安装和配置

#1 安装redis5.0 mkdir redis-master make install PREFIX=/var/redis-ms/redis-master cp /var/redis-5.0.5/redis.conf /var/redis-ms/redis-master/bin #2 修改redis.conf # 将`daemonize`由`no`改为`yes` daemonize yes # 默认绑定的是回环地址，默认不能被其他机器访问 # bind 127.0.0.1 # 是否开启保护模式，由yes该为no protected-mode no

Redis-Slaver1：127.0.0.1 6380

#安装redis-slaver1 mkdir redis-slaver1 cp -r /var/redis-ms/redis-master/* /var/redis-ms/redis-slaver1 #修改配置文件 vim /var/redis-ms/redis-slaver1/redis.conf port 6380 replicaof 127.0.0.1 6379

Redis-Slaver2：127.0.0.1 6381

#安装redis-slaver2 mkdir redis-slaver2 cp -r /var/redis-ms/redis-master/* /var/redis-ms/redis-slaver2 #修改配置文件 vim /var/redis-ms/redis-slaver2/redis.conf port 6381 replicaof 127.0.0.1 6379

Redis-Sentinel1:127.0.0.1 26379

#安装redis-sentinel1 mkdir redis-sentinel1 cp -r /var/redis-ms/redis-master/* /var/redis-ms/redis-sentinel1 #拷贝sentinel.conf 配置文件并修改 cp /var/redis-5.0.5/sentinel.conf /var/redis-ms/redis-sentinel1 # 哨兵sentinel实例运行的端口 默认26379 port 26379 # 将`daemonize`由`no`改为`yes` daemonize yes # 哨兵sentinel监控的redis主节点的 ip port # master-name 可以自己命名的主节点名字 只能由字母A-z、数字0-9 、这三个字符".-_"组成。 # quorum 当这些quorum个数sentinel哨兵认为master主节点失联 那么这时 客观上认为主节点失联了 # sentinel monitor <master-name> <ip> <redis-port> <quorum> sentinel monitor mymaster 127.0.0.1 6379 2 # 当在Redis实例中开启了requirepass foobared 授权密码 这样所有连接Redis实例的客户端都要提供密码 # 设置哨兵sentinel 连接主从的密码 注意必须为主从设置一样的验证密码 # sentinel auth-pass <master-name> <password> sentinel auth-pass mymaster MySUPER--secret-0123passw0rd # 指定多少毫秒之后 主节点没有应答哨兵sentinel 此时 哨兵主观上认为主节点下线 默认30秒，改成3秒 # sentinel down-after-milliseconds <master-name> <milliseconds> sentinel down-after-milliseconds mymaster 3000 # 这个配置项指定了在发生failover主备切换时最多可以有多少个slave同时对新的master进行 同步，这个数字越小，完成failover所需的时间就越长，但是如果这个数字越大，就意味着越 多的slave因为replication而不可用。可以通过将这个值设为 1 来保证每次只有一个slave 处于不能处理命令请求的状态。 # sentinel parallel-syncs <master-name> <numslaves> sentinel parallel-syncs mymaster 1 # 故障转移的超时时间 failover-timeout 可以用在以下这些方面： #1. 同一个sentinel对同一个master两次failover之间的间隔时间。 #2. 当一个slave从一个错误的master那里同步数据开始计算时间。直到slave被纠正为向正确的master那里同步数据时。 #3.当想要取消一个正在进行的failover所需要的时间。 #4.当进行failover时，配置所有slaves指向新的master所需的最大时间。不过，即使过了这个超时，slaves依然会被正确配置为指向master，但是就不按parallel-syncs所配置的规则来了 # 默认三分钟 # sentinel failover-timeout <master-name> <milliseconds> sentinel failover-timeout mymaster 180000

Redis-Sentinel2:127.0.0.1 26380

#安装redis-sentinel2 mkdir redis-sentinel2 cp -r /var/redis-ms/redis-sentinel1/* /var/redis-ms/redis-sentinel2 #修改sentinel.conf vim /var/redis-ms/redis-sentinel2/sentinel.conf port 26380

Redis-Sentinel3:127.0.0.1 26381

#安装redis-sentinel3 mkdir redis-sentinel3 cp -r /var/redis-ms/redis-sentinel1/* /var/redis-ms/redis-sentinel3 #修改sentinel.conf vim /var/redis-ms/redis-sentinel3/sentinel.conf port 26381

配置好后依次执行 redis-master、redis-slaver1、redis-slaver2、redis-sentinel1、redis-sentinel2、redis-sentinel3

#启动redis-master和redis-slaver 在redis-master目录下 ./redis-server redis.conf 在redis-slaver1目录下 ./redis-server redis.conf 在redis-slaver2目录下 ./redis-server redis.conf #启动redis-sentinel 在redis-sentinel1目录下 ./redis-sentinel sentinel.conf 在redis-sentinel2目录下 ./redis-sentinel sentinel.conf 在redis-sentinel3目录下 ./redis-sentinel sentinel.conf #查看启动状态 [root@localhost bin]# ps -ef |grep redis root 3602 1 0 01:33 ? 00:00:00 ./redis-server *:6379 root 3647 1 0 01:37 ? 00:00:00 ./redis-server *:6380 root 3717 1 0 01:40 ? 00:00:00 ./redis-server *:6381 root 3760 1 0 01:42 ? 00:00:00 ./redis-sentinel *:26379 [sentinel] root 3765 1 0 01:42 ? 00:00:00 ./redis-sentinel *:26380 [sentinel] root 3770 1 0 01:42 ? 00:00:00 ./redis-sentinel *:26381 [sentinel] root 3783 2261 0 01:42 pts/0 00:00:00 grep --color=auto redis

执行流程

启动并初始化Sentinel Sentinel是一个特殊的Redis服务器 不会进行持久化 Sentinel实例启动后 每个Sentinel会创建2个连向主服务器的网络连接 命令连接：用于向主服务器发送命令，并接收响应； 订阅连接：用于订阅主服务器的—sentinel—:hello频道

获取主服务器信息

Sentinel默认每10s一次，向被监控的主服务器发送info命令，获取主服务器和其下属从服务器的信息

127.0.0.1:6379> info # Server redis_version:5.0.5 os:Linux 3.10.0-229.el7.x86_64 x86_64 run_id:a4e06ab61b4116660aa37b85079ed482b0b695b1 # Replication role:master connected_slaves:2 slave0:ip=127.0.0.1,port=6380,state=online,offset=1571684,lag=1 slave1:ip=127.0.0.1,port=6381,state=online,offset=1571551,lag=1 master_replid:366322125dd7dc9bc95ed3467cfec841c112e207 master_replid2:0000000000000000000000000000000000000000 master_repl_offset:1571684 second_repl_offset:-1 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:523109 repl_backlog_histlen:1048576

获取从服务器信息

当Sentinel发现主服务器有新的从服务器出现时，Sentinel还会向从服务器建立命令连接和订阅连接。 在命令连接建立之后，Sentinel还是默认10s一次，向从服务器发送info命令，并记录从服务器的信息

# Server redis_version:5.0.5 os:Linux 3.10.0-229.el7.x86_64 x86_64 run_id:e289b3286352aaf8cc9f1ac7ebcc6d36131b8321 # Replication role:slave master_host:127.0.0.1 master_port:6379 master_link_status:up master_last_io_seconds_ago:0 master_sync_in_progress:0 slave_repl_offset:1699595 slave_priority:100 slave_read_only:1 connected_slaves:0 master_replid:366322125dd7dc9bc95ed3467cfec841c112e207 master_replid2:0000000000000000000000000000000000000000 master_repl_offset:1699595 second_repl_offset:-1 repl_backlog_active:1 repl_backlog_size:1048576 repl_backlog_first_byte_offset:651020 repl_backlog_histlen:1048576

向主服务器和从服务器发送消息(以订阅的方式)

默认情况下，Sentinel每2s一次，向所有被监视的主服务器和从服务器所订阅的—sentinel—:hello频道 上发送消息，消息中会携带Sentinel自身的信息和主服务器的信息

PUBLISH _sentinel_:hello "< s_ip > < s_port >< s_runid >< s_epoch > < m_name > < m_ip >< m_port ><m_epoch>"

接收来自主服务器和从服务器的频道信息

当Sentinel与主服务器或者从服务器建立起订阅连接之后，Sentinel就会通过订阅连接，向服务器发送 以下命令

subscribe —sentinel—:hello

Sentinel彼此之间只创建命令连接，而不创建订阅连接，因为Sentinel通过订阅主服务器或从服务器，就可以感知到新的Sentinel的加入，而一旦新Sentinel加入后，相互感知的Sentinel通过命令连接来通信就可以了

检测主观下线状态

Sentinel每秒一次向所有与它建立了命令连接的实例(主服务器、从服务器和其他Sentinel)发送PING命 令 实例在down-after-milliseconds毫秒内返回无效回复(除了+PONG、-LOADING、-MASTERDOWN外) 实例在down-after-milliseconds毫秒内无回复（超时） Sentinel就会认为该实例主观下线(SDown)

检查客观下线状态

当一个Sentinel将一个主服务器判断为主观下线后 Sentinel会向同时监控这个主服务器的所有其他Sentinel发送查询命令主机的

SENTINEL is-master-down-by-addr <ip> <port> <current_epoch> <runid>

其他Sentinel回复

<down_state>< leader_runid >< leader_epoch >

判断它们是否也认为主服务器下线。如果达到Sentinel配置中的quorum数量的Sentinel实例都判断主服务器为主观下线，则该主服务器就会被判定为客观下线(ODown)。

选举Leader Sentinel

当一个主服务器被判定为客观下线后，监视这个主服务器的所有Sentinel会通过选举算法（raft），选出一个Leader Sentinel去执行failover（故障转移）操作。

哨兵leader选举

Raft Raft协议是用来解决分布式系统一致性问题的协议。 Raft协议描述的节点共有三种状态：Leader, Follower, Candidate。 term：Raft协议将时间切分为一个个的Term（任期），可以认为是一种“逻辑时间”。

选举流程：

Raft采用心跳机制触发Leader选举 系统启动后，全部节点初始化为Follower，term为0 点如果收到了RequestVote或者AppendEntries，就会保持自己的Follower身份 节点如果一段时间内没收到AppendEntries消息，在该节点的超时时间内还没发现Leader，Follower就 会转换成Candidate，自己开始竞选Leader。 一旦转化为Candidate，该节点立即开始下面几件事情

增加自己的term。启动一个新的定时器。给自己投一票。向所有其他节点发送RequestVote，并等待其他节点的回复

如果在计时器超时前，节点收到多数节点的同意投票，就转换成Leader。同时向所有其他节点发送AppendEntries，告知自己成为了Leader 每个节点在一个term内只能投一票，采取先到先得的策略，Candidate前面说到已经投给了自己，Follower会投给第一个收到RequestVote的节点。 Raft协议的定时器采取随机超时时间，这是选举Leader的关键。 在同一个term内，先转为Candidate的节点会先发起投票，从而获得多数票。

Sentinel的leader选举流程

1、某Sentinel认定master客观下线后，该Sentinel会先看看自己有没有投过票，如果自己已经投过票给其他Sentinel了，在一定时间内自己就不会成为Leader。 2、如果该Sentinel还没投过票，那么它就成为Candidate。 3、Sentinel需要完成几件事情

更新故障转移状态为start当前epoch加1，相当于进入一个新term，在Sentinel中epoch就是Raft协议中的term。向其他节点发送 is-master-down-by-addr 命令请求投票。命令会带上自己的epoch。给自己投一票（leader、leader_epoch） 4、当其它哨兵收到此命令时，可以同意或者拒绝它成为领导者；（通过判断epoch） 5、Candidate会不断的统计自己的票数，直到他发现认同他成为Leader的票数超过一半而且超过它配置的quorum，这时它就成为了Leader 6、其他Sentinel等待Leader从slave选出master后，检测到新的master正常工作后，就会去掉客观下线的标识

故障转移

当选举出Leader Sentinel后，Leader Sentinel会对下线的主服务器执行故障转移操作，主要有三个步骤

它会将失效 Master 的其中一个 Slave 升级为新的 Master , 并让失效 Master 的其他 Slave 改为复制新的 Master ；当客户端试图连接失效的 Master 时，集群也会向客户端返回新 Master 的地址，使得集群可以使用现在的 Master 替换失效 Master 。Master 和 Slave 服务器切换后， Master 的 redis.conf 、 Slave 的 redis.conf 和sentinel.conf 的配置文件的内容都会发生相应的改变，即， Master 主服务器的 redis.conf配置文件中会多一行 replicaof 的配置， sentinel.conf 的监控目标会随之调换

主服务器的选择 哨兵leader根据以下规则从客观下线的主服务器的从服务器中选择出新的主服务器。

过滤掉主观下线的节点选择slave-priority最高的节点，如果由则返回没有就继续选择选择出复制偏移量最大的系节点，因为复制偏移量越大则数据复制的越完整，如果由就返回了，没有就继续选择run_id最小的节点，因为run_id越小说明重启次数越少