Redis持久化、主从与哨兵架构的简单认识

Redis持久化

RDB快照(snapshot)
在默认情况下redis将内存数据快照保存在名字为dump.rdb的二进制文件中。可以对redis进行设置，让redis在N秒内数据集至少有M个改动这一条件满足时，自动保存一次数据。例如：save 60 1000 ，在满足60秒内至少有1000个键被改动时**，自动保存一次数据。
关闭RDB只需要将所有的save保存策略注释掉即可。
redis还可以手动执行命令生成RDB快照， 进入redis客户端执行命令save或者bgsave可以生成dump.rdb快照文件，每次执行命令都会redis内存快照存到一个新的rdb文件里面，并且会覆盖原来的rdb文件。

bgsave的写时复制机制

redis借助操作系统提供的写时复制技术(Copy-on-Write.COW)，在生成快照的同时，依然可以正常处理写命令。简单来说bgsave子进程是由主线程fork生成的，，可以共享主线程的所有内存数据。

bgsave子进程运行后，开始读取主线程的内存数据，并把他们写入RDB文件。如果主线程对这些数据也都是读操作，那么主线程和bgsave子进程互不影响。但是，如果主线程要修改一块数据，那么这块数据就会被复制一份，生成该数据的副本，然后bgsave这个子进程就会把这个副本的数据写入rdb文件中，在这个过程中主线程仍然可以修改雨来的数据。

save与bgsave对比

配置自动生成rdb文件后台使用的是bgsave

AOF(append-only file)

快照功能并不是非常耐久：如果Redis因为某些原因而造成故障停机，那么服务器将丢失最近写入且仍未写入到快照中的那些数据。从1.1版本开始，redis增加了一种完全耐久的持久化方式:AOF持久化，将修改的每一条指令记录进文件appendonly.aof中(先写入os cache，每隔一段时间fsync到磁盘)
例如：执行命令set cn 123,aof文件里面会记录以下数据

*3
$3
set
$2
cn
$3
123

这是一种resp协议格式数据，星号后面的数字代表命令有多少个参数，$后面的数字代表这个参数有几个字符。
注意如果执行带过期参数的set命令，aof里面并不是记录的原始的命令，而是记录key过期的时间戳。
例如：执行 set cn 123 ex 1000，对应的aof文件里面记录如下

*3
$3
set
$2
cn
$3
123
*3
$9
PEXPIREAT
$2
cn
$13
1604249786301

可以通过修改配置文件打开aof功能

# appendonly yes

从现在开始，每当redis执行一个改变数据集的命令时，这个命令就会被追加到aof文件的末尾。当redis重新启动的时候，程序就可以通过重新执行aof文件中的命令来达到重建数据集的目的。
可以配置redis多久将数据fysnc到磁盘一次

appendfsync always：每次有新命令追加到 AOF 文件时就执行一次 fsync ，非常慢，也非常安全。

appendfsync everysec：每秒 fsync 一次，足够快，并且在故障时只会丢失 1 秒钟的数据。

appendfsync no：从不 fsync ，将数据交给操作系统来处理。更快，也更不安全的选择。

推荐(也是默认)的措施为每秒fsync一次，这种fsync策略可以兼顾速度和安全性。
AOF重写
AOF文件
AOF文件里面可能有太多没用的命令，所以AOF会定期根据内存的最新数据生成aof文件。
例如,执行了如下命令

127.0.0.1:6379> incr readcount
(integer) 1
127.0.0.1:6379> incr readcount
(integer) 2
127.0.0.1:6379> incr readcount
(integer) 3
127.0.0.1:6379> incr readcount
(integer) 4
127.0.0.1:6379> incr readcount
(integer) 5

重写后aof文件里变成

*3
$3
SET
$2
readcount
$1
5

如下两个配置可以控制aof自动重写频率

# auto-aof-rewrite-min-size 64mb   //aof文件至少要达到64M才会自动重写，文件太小恢复速度本来就很快，重写的意义不大
# auto-aof-rewrite-percentage 100  //aof文件自上一次重写后文件大小增长了100%则再次触发重写

AOF还可以手动重写，进入redis客户端执行命令bgrewriteaof重写AOF
注意，redis重写会fork出一个子进程去做(bgsave类似),不会对redis正常命令处理有太多影响。

RDB和ASOF应该用哪一个

生产环境可以都启用，redis启动如果既有rdb文件又有aof文件，优先选择aof文件恢复数据，因为一般来说aof相对rdb文件数据更全。

Redis4.0混合持久化

• 重启redis我们很少使用rdb来回复内存状态，因为可能会丢失大量数据，我们通常使用aof日志重放，但是aof日志重放相对rdb来说性能很慢，这样在啊redis实例很大的情况下，启动需要花费很长的时间。
• 通过如下配置可以开启混合持久化(必须先开启aof文件)

# aof-use-rdb-preamble yes  

• 如果开启了混合持久化，AOF在重写时，不在单纯的是将内存数据转换为RESP命令写入AOF文件，而是将重写这一刻之前的内存做RDB快照处理，并且将RDB快照内容和增量的AOF修改内存数据的命令存一起，都写入新的AOF文件里面，新的文件一开始不叫appendonly.aof，等到重写完新的aof文件才会改名，覆盖原有的aof文件，完成新旧两个aof文件的替换。

混合持久化aof文件结构如下

Redis主从架构

Redis主从架构搭建，配置从节点步骤

1、复制一份redis.conf文件

2、将相关配置修改为如下值：
port 6380
pidfile /var/run/redis_6380.pid  # 把pid进程号写入pidfile配置的文件
logfile "6380.log"
dir /usr/local/redis-5.0.3/data/6380  # 指定数据存放目录
# 需要注释掉bind
# bind 127.0.0.1（bind绑定的是自己机器网卡的ip，如果有多块网卡可以配多个ip，代表允许客户端通过机器的哪些网卡ip去访问，内网一般可以不配置bind，注释掉即可）

3、配置主从复制
replicaof 192.168.0.60 6379   # 从本机6379的redis实例复制数据，Redis 5.0之前使用slaveof
replica-read-only yes  # 配置从节点只读

4、启动从节点
redis-server redis.conf

5、连接从节点
redis-cli -p 6380

6、测试在6379实例上写数据，6380实例是否能及时同步新修改数据

7、可以自己再配置一个6381的从节点

Redis主从工作原理

• 如果你为master配置一个slave，不管这个slave是否是第一次连接上master，它都会发送一个psync给master请求复制数据
• master收到psync命令后，会在后台进行数据持久化，通过bgsave生成最新的rdb快照文件，持久化期间master会继续处理客户端的请求，redis会把这些可能修改数据集的请求存储在内存中。当持久化进行完毕以后，master会把这分rdb文件数据集发送给slave，slave会把接受到的数据集进行持久化生成rdb，，然后再加载到内存中。然后master再将之前缓存在内存中的命令发送给slave。
• 当master与slave之间由于某些原因断开连接时，slave能够自动重新连接master，如果master收到了多个并发连接请求，master只会进行一次持久化，而不是一个连接一次，然后把这一份持久化数据发送给多个并发连接的对slave。
  主从复制(全量复制)流程图
  
  数据部分复制
• 当master和slave断开连接后，一般都会对整份数据复制。但是从redis2.8版本开始，redis改用可以支持部分复制的命令PSYNC去master同步数据，slave与master在网络连接断开重连后只进行部分数据复制(断点续传)
• master会在内存中创建一个复制数据用的缓存队列，缓存最近一段时间内的数据，master和它所有的slave都维护了复制数据的下标offset和master进程的id。当网络断开重连后，slave会继续请求master继续进行未完成的数据复制，从所记录的下标开始，如果master进程id变化了，或者从节点offset下标太旧，已经不在master的缓存队列里面了，那么将会进行一次全量数据的复制。
  主从复制(部分复制，，断点续传)流程图：
  
• 如果有很多从节点，为了缓解主从复制风暴(多个从节点同时复制主节点，导致主节点压力过大)可以尝试以下架构，让部分从节点与从节点(主节点)同步数据
  

Redis哨兵高可用架构

sentinel哨兵是特殊的redis服务，不提供读写服务，主要用来监控redis实例节点。
哨兵架构模式下，client端第一次从哨兵找出redis的主节点，后续就直接访问redis的主节点，不会每次都通过sentinel代理访问redis的主节点，当redis的主节点发生变化，哨兵会第一时间感知到，并且将新的redis主节点通知给client端(这里面redis的client端一般都实现了订阅功能，订阅sentinel发布的节点变动消息)。

Redis哨兵(sentinel)架构搭建步骤:

1、复制一份sentinel.conf文件
cp sentinel.conf sentinel-26379.conf

2、将相关配置修改为如下值：
port 26379
daemonize yes
pidfile "/var/run/redis-sentinel-26379.pid"
logfile "26379.log"
dir "/usr/local/redis-5.0.3/data"
# sentinel monitor <master-redis-name> <master-redis-ip> <master-redis-port> <quorum>
# quorum是一个数字，指明当有多少个sentinel认为一个master失效时(值一般为：sentinel总数/2 + 1)，master才算真正失效
sentinel monitor mymaster 192.168.0.60 6379 2   # mymaster这个名字随便取，客户端访问时会用到

3、启动sentinel哨兵实例
src/redis-sentinel sentinel-26379.conf

4、查看sentinel的info信息
src/redis-cli -p 26379
127.0.0.1:26379>info
可以看到Sentinel的info里已经识别出了redis的主从

5、可以自己再配置两个sentinel，端口26380和26381，注意上述配置文件里的对应数字都要修改

sentinel集群都启动完毕后，会将哨兵集群的元数据信息写入所有sentinel的配置文件里去(追加在文件的最下面)，我们查看下如下配置文件sentinel-26379.conf，如下所示：

sentinel known-replica mymaster 192.168.0.60 6380 #代表redis主节点的从节点信息
sentinel known-replica mymaster 192.168.0.60 6381 #代表redis主节点的从节点信息
sentinel known-sentinel mymaster 192.168.0.60 26380 52d0a5d70c1f90475b4fc03b6ce7c3c56935760f  #代表感知到的其它哨兵节点
sentinel known-sentinel mymaster 192.168.0.60 26381 e9f530d3882f8043f76ebb8e1686438ba8bd5ca6  #代表感知到的其它哨兵节点

当redis主节点如果挂了，哨兵集群会重新选举出新的redis主节点，同时会修改所有sentinel节点配置文件的集群元数据信息，比如6379的redis如果挂了，假设选举出的新主节点是6380，则sentinel文件里的集群元数据信息会变成如下所示：

sentinel known-replica mymaster 192.168.0.60 6379 #代表主节点的从节点信息
sentinel known-replica mymaster 192.168.0.60 6381 #代表主节点的从节点信息
sentinel known-sentinel mymaster 192.168.0.60 26380 52d0a5d70c1f90475b4fc03b6ce7c3c56935760f  #代表感知到的其它哨兵节点
sentinel known-sentinel mymaster 192.168.0.60 26381 e9f530d3882f8043f76ebb8e1686438ba8bd5ca6  #代表感知到的其它哨兵节点

同时还会修改sentinel文件里之前配置的mymaster对应的6379端口，改为6380

sentinel monitor mymaster 192.168.0.60 6380 2