Redis持久化
RDB快照(snapshot).
在默认情况下,Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中.Redis可以进行设置,让它在"N秒内数据集至少有M个改动"这一条件被满足时,自动保存一次数据集。比如说,以下设置会让Redis在满足"60秒内有至少1000个键被改动"这一条件时,自动保存一次数据集:
save 60 1000 // 关闭RDB只需要将所有的save保存策略注释掉即可
还可以手动执行命令生成RDB快照,进入redis客户端执行命令save或bgsave可以生成dump.rdb文件,每次命令执行都会将所有redis内存快照到一个新的rdb文件里,并覆盖原有rdb快照文件。
bgsave的写时复制(COW)机制
Redis借助操作系统提供的写时复制技术(Copy-On-Write, COW),在生成快照的同时,依然可以正常处理写命令。简单来说,bgsave子进程是由主线程fork生成的,可以共享主线程的所有内存数据。bgsave子进程运行后,开始读取主线程的数据,并把它们写入RDB文件。此时,如果主线程对这些数据也都是读操作,那么,主线程和bgsave子进程互不影响,但是,如果主线程要修改一块数据,那么,这块数据就会被复制一份,生成
该数据的副本。然后,bgsave子进程会把这个副本数据写入RDB文件,而在这个过程中,主线程仍然可以直接修改原来的数据。
配置自动生成RDB文件后台使用的是bgsave方式
redis.conf文件中有示例值
save 900 1
save 300 10
save 60 10000
AOF(append-only file)
快照功能并不是非常耐久(durable):如果Redis因为某些原因而造成故障停机,那么服务器将丢失最近写入、且仍未保存到快照中的那些数据,从1.1版本开始,Redis增加了一种完全耐久的持久化方式:AOF持久化,将修改的每一条指令记录进文件appendonly.aof中(先写入OS Cache,每隔一段时间fsync到磁盘)
举例
比如执行命令"set aaaaa 666",aof文件会记录如下数据,这是一种resp协议格式数据,星号后面的数字代表命令有多少个参数,$号后面的数字代表这个参数有几个字符。注意,如果执行带有过期时间的set命令,aof文件里记录的并不是执行的原始命令,而是记录key过期的时间戳
*3
$3
set
$5
aaaaa
$3
666
比如执行"set aaaaaa 888 ex 1000",对应aof文件里记录如下
*3
$3
set
$6
aaaaaa
$3
888
*3
$9
PEXPIREAT
$6
aaaaaa
$13
1604249786301
配置
可以通过修改配置文件来打开AOF功能:
appendonly yes
从现在开始,每当Redis执行一个改变数据集的命令时(比如SET),这个命令就会被追加到AOF文件
的末尾。这样的话,当Redis重新启动时,程序就可以通过重新执行AOF文件中的命令来达到重建
数据集的目的。还可以配置Redis多久才将数据fsync到磁盘一次.
推荐(并且也是默认)的措施为每秒fsync一次,这种fysnc策略可以兼顾速度和安全性
appendfsync always // 每次有新命令追加到AOF文件时就执行一次fsync,非常慢,也非常安全
appendfsync everysec // 每秒fsync到磁盘一次,足够快,并且在故障时只会丢失1s的数据
appendfsync no // 从不fsync,将数据交给操作系统来处理。更快,也更不安全的选择
AOF重写
AOF文件可能有太多没用指令,所以AOF会定期根据内存的最新数据生成AOF文件,例如,执行了如下几条命令:incre readcount
127.0.0.1:6379> incr readcount
(integer) 1
127.0.0.1:6379> incr readcount
(integer) 2
127.0.0.1:6379> incr readcount
(integer) 3
127.0.0.1:6379> incr readcount
(integer) 4
127.0.0.1:6379> incr readcount
(integer) 5
重写后AOF文件里变成
*3
$3
SET
$9
readcount
$1
5
如下两个配置可以控制AOF自动重写频率,当然AOF还可以手动重写,进入redis客户端执行命令bgrewriteaof重写AOF,注意,AOF重写redis会fork出一个子进程去做(与bgsave命令类似),不会对redis正常命令处理有太多影响
auto-aof-rewrite-percentage 100 // aof文件自上一次重写后文件大小增长了100%则再次触发重写
auto-aof-rewrite-min-size 64mb // aof文件至少要达到64M才会自动重写,文件太小回复速度本来就很快,重写的意义不大
RDB和AOF比较
生产环境可以都启用,redis启动时如果既有rdb文件又有aof文件则优先选择aof文件恢复数据,因为aof一般来说数据更全一点
Redis 4.0混合持久化
重启Redis时,我们很少使用RDB来恢复内存状态,因为会丢失大量数据。我们通常使用AOF日志重放,到那时重放AOF日志性能相对RD来说要慢很多,这样在Redis实例很大的情况下,启动需要花费很长的时间。Redis4.0为了解决这个问题,带来一个新的持久化选项——混合持久化。
通过配置可以开启混合持久化(必须先开启aof):
aof-use-rdb-preamble yes
如果开启了混合持久化,AOF在重写时,不再是单纯地将内存数据转换为RESP写入AOF文件,而是将重写这一刻之前地内存做RDB快照处理,并且将RDB快照内容和增量的AOF修改内存数据的命令存在一起,都写入新的AOF文件,新的文件一开始不叫appendonly.aof,等到重写完新的AOF文件才会进行改名,覆盖原有的AOF文件,完成两个AOF文件的替换。于是在Redis重启的时候,可以先加载RDB的内容,然后再重放增量AOF日志就可以完全替代之前的AOF全量文件重放,因此重启效率大幅得到提升。
Redis数据备份策略
- 1.写crontab定时调度脚本,每小时都copy一份rdb或aof的备份到一个目录中去,仅仅保留最近48小时的备份
- 2.每条都保留一份当日的数据备份到一个目录中去,可以保留最近一个月的备份
- 3.每次copy备份的时候,都把太旧的备份给删了
- 4.每天晚上将当前机器上的备份复制一份到其他机器上,以防机器损坏