Redis 持久化和发布订阅

一、持久化        

        Redis 是内存数据库,如果不将内存中的数据库状态保存到磁盘,那么一旦服务器进程退出,服务器中的数据库状态也会消失。所以 Redis 提供了持久化功能!

1.1、RDB(Redis DataBase)

1.1.1 概念

        在指定的时间间隔内将内存中的数据集快照写入磁盘,也就是行话讲的 Snapshot 快照,它恢复时是将快照文件直接读到内存里。

        Redis 会单独创建(fork)一个子进程来进行持久化,会先将数据写入到一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。整个过程中,主进程是不进行任何 IO 操作的。这就确保了极高的性能。如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那 RDB 方式要比 AOF 方式更加的高效。RDB 的缺点是最后一次持久化后的数据可能丢失。 Redis 默认的就是 RDB,一般情况下不需要修改这个配置。

        rdb 默认保存的文件就是 dump.rdb,都是在我们配置文件的快照部分配置的,如下所示:

1.1.2 手动配置

        修改 redis.conf 配置文件,如下图所示:

        记得输入 config.rewrite 命令重启下 redis 服务使配置文件更新

# 客户端1 先删除 dump.rdb 文件
[root@localhost bin]# ls
dump.rdb  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server
[root@localhost bin]# rm -f dump.rdb 
[root@localhost bin]# ls
myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server# 客户端2 执行 set 操作
127.0.0.1:6379> mset k1 v1 k2 v2 k3 v3 k4 v4 k5 v5
OK# 等1分钟后,再次查看客户端1,发现自动生成了 rdb 文件
[root@localhost bin]# ls
dump.rdb  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server

1.1.3 触发机制

        1、 save 的规则满足的情况下,会自动触发 rdb 规则,产生 rdb 文件

# 客户端 1 查看
[root@localhost bin]# ls
myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server# 客户端 2 执行 save 命令
127.0.0.1:6379> save
OK# 客户端 1 再次查看
[root@localhost bin]# ls
dump.rdb  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server

        2、执行 flushall 命令,会自动触发 rdb 规则,产生 rdb 文件

# 客户端 1 查看
[root@localhost bin]# ls
myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server# 客户端 2 执行 flushall 命令
127.0.0.1:6379> flushall
OK# 客户端 1 再次查看
[root@localhost bin]# ls
dump.rdb  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server

        3、退出 redis,会自动触发 rdb 规则,产生 rdb 文件

# 客户端 1 查看
[root@localhost bin]# ls
myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server# 客户端 2 执行退出命令
127.0.0.1:6379> shutdown
not connected> exit# 客户端 1 再次查看
[root@localhost bin]# ls
dump.rdb  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server

1.1.4 恢复 rdb 文件

        只需要将 rdb 文件放在我们 redis 启动目录即可,redis 启动的时候就会自动检查 dump.rdb恢复其中的数据,查看需要存在的位置命令:

127.0.0.1:6379> config get dir
1) "dir"
2) "/usr/local/bin"  # 如果在这个目录下存在 dump.rdb 文件,启动就会自动恢复其中的数据

1.1.5 优点

        1、适合大规模的数据恢复

        2、对数据完整性和一致性要求不高

1.1.6 缺点

        1、需要在一定间隔时间做一次备份,所以如果 redis 意外宕机了,就会丢失最后一次快照后的所有修改。        

        2、fork 进程的时候,会占用一定的内存空间。

1.2、AOF(Append Only File)

1.2.1 概念

        以日志的形式来记录每个写操作,将 Redis 执行过的所有指令记录下来(读操作不记录),只许追加文件但不可以改写文件,redis 启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。

        AOF 保存的是 appendonly.aof 文件

1.2.2 手动配置

        默认是不开启的,需要我们手动进行配置,我们只需要将 appendonly 改为 yes 就开启了。

        AOF 采用文件追加方式,文件会越来越大,为避免出现此种情况,新增了重写机制,当 AOF 文件的大小超过所设定的阈值时,Redis 就会启动 AOF 文件的内容压缩,只保留可以恢复数据的最小指令集,可以使用命令 bgrewriteaof ! 

1.2.3 触发机制

        Redis 会记录上次重写时的 AOF 大小,默认配置是当 AOF 文件大小是上次 rewrite 后大小的已被且文件大于 64M 的触发。

# 客户端1查看当前目录的文件,如果存在 rdb 文件先删除就好了
[root@localhost bin]# ls
myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server# 客户端2启动 redis 服务
[root@localhost bin]# redis-server myredis/redis.conf 
[root@localhost bin]# redis-cli -p 6379
127.0.0.1:6379> # 客户端1再次查看当前目录的文件,发现生成了 appendonlydir 目录,并存储了相关的文件
[root@localhost bin]# ls
appendonlydir  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server
[root@localhost bin]# cd appendonlydir/
[root@localhost appendonlydir]# ls
appendonly.aof.1.base.rdb  appendonly.aof.1.incr.aof  appendonly.aof.manifest

1.2.4 异常恢复

        当 aof 文件发生损坏的时候,可以使用 redis-check-aof 工具来修复,我们模拟下这个场景。

# 客户端1清空数据库,并重新赋值,然后退出 redis
127.0.0.1:6379> flushdb
OK
127.0.0.1:6379> set k1 v1
OK
127.0.0.1:6379> set k2 v2
OK
127.0.0.1:6379> set k3 v3
OK
127.0.0.1:6379> set k4 v4
OK
127.0.0.1:6379> set k5 v5
OK
127.0.0.1:6379> shutdown
not connected> exit# 客户端2 首先删除dump.rdb 文件
[root@localhost bin]# ls
appendonlydir  dump.rdb  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server
[root@localhost bin]# rm -f dump.rdb 
[root@localhost bin]# ls
appendonlydir  myredis  redis-benchmark  redis-check-aof  redis-check-rdb  redis-cli  redis-sentinel  redis-server
# 修改我们的 aof 文件,舔些垃圾数据
[root@localhost bin]# cd appendonlydir/
[root@localhost appendonlydir]# vim appendonly.aof.1.incr.aof 
[root@localhost appendonlydir]# cd ..
# 启动 redis 的服务端
[root@localhost bin]# redis-server myredis/redis.conf 
58643:C 29 Aug 2023 20:14:27.081 # WARNING Memory overcommit must be enabled! Without it, a background save or replication may fail under low memory condition. Being disabled, it can also cause failures without low memory condition, see https://github.com/jemalloc/jemalloc/issues/1328. To fix this issue add 'vm.overcommit_memory = 1' to /etc/sysctl.conf and then reboot or run the command 'sysctl vm.overcommit_memory=1' for this to take effect.
# 启动 redis 的客户端,发现无法启动
[root@localhost bin]# redis-cli -p 6379
Could not connect to Redis at 127.0.0.1:6379: Connection refused
not connected> # 执行 redis-check-aof --fix 修复的文件名 来修复文件
[root@localhost bin]# redis-check-aof --fix appendonlydir/appendonly.aof.1.incr.aof 
Start checking Old-Style AOF
0x             13e: Expected \r\n, got: 3131
AOF analyzed: filename=appendonlydir/appendonly.aof.1.incr.aof, size=353, ok_up_to=301, ok_up_to_line=76, diff=52
This will shrink the AOF appendonlydir/appendonly.aof.1.incr.aof from 353 bytes, with 52 bytes, to 301 bytes
Continue? [y/N]: y
Successfully truncated AOF appendonlydir/appendonly.aof.1.incr.aof# 上面提示我们成功的修复了文件,再次重新启动下就可以了,只是 k5 被优化掉了,但也没法办法
[root@localhost bin]# redis-server myredis/redis.conf 
[root@localhost bin]# redis-cli -p 6379
127.0.0.1:6379> mget k1 k2 k3 k4 k5
1) "v1"
2) "v2"
3) "v3"
4) "v4"
5) (nil)

1.2.5 优点

        1、每一次修改都同步,文件的完整性会更加好

        2、每秒同步一次,可能会丢失一秒的数据

        3、从来都不需要同步,效率会比较高

1.2.6 缺点

        1、相对于数据文件来说,aof 远远大于 rdb,修复的速度也比 rdb

        2、aof 的运行效率也要比 rdb 慢,所以我们 redis 默认的配置就是 rdb 持久化

1.2.7 小总结

1.3、总结

1.3.1 持久化方式对比

        RDB 持久化方式能够在指定的时间间隔内对你的数据进行快照存储。        

        AOF 持久化方式记录每次对服务器写的操作,当服务器重启的时候会重新执行这些命令来恢复原始的数据,AOF 命令以 Redis 协议追加保存每次写的操作到文件末尾,Redis 还能对 AOF 文件进行后台重写,使得 AOF 文件的体积不至于过大。

1.3.2 缓存对比

        只做缓存,如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化

1.3.3 同时开启两种持久化对比

        在这种情况下,当 redis 重启的时候会优先载入 AOF 文件来恢复原始的数据,因为在通常情况下 AOF 文件保存的数据集要比 RDB 文件保存的数据集要完整。

        RDB 的数据不实时,同时使用两者时服务器重启也只会找 AOF 文件,那要不要只使用 AOF 呢?作者建议不要,因为 RDB 更适合用于备份数据库(AOF 在不断变化不好备份),快速重启,而且不会有 AOF 可能潜在的 Bug,留着作为一个万一的手段。

1.3.4 性能建议

        因为 RDB 文件只用作后备用途,建议只在 Slave 上持久化 RDB 文件,而且只要15分钟备份一次就够了,只保留 save 900 1 这条规则。

        如果 Enable AOF ,好处是在最恶劣情况下也只会丢失不超过两秒数据,启动脚本较简单只 load 自己的 AOF 文件就可以了,代价一是带来了持续的 IO,二是 AOF rewrite 的最后将 rewrite 过程中产生的新数据写到新文件造成的阻塞几乎是不可避免的。只要硬盘许可,应该尽量减少 AOF rewrite 的频率,AOF 重写的基础大小默认值 64M 太小了,可以设到 5G 以上,默认超过原大小 100% 大小重写可以改到适当的数值。

        如果不 Enable AOF ,仅靠 Master-Slave Repllcation 实现高可用性也可以,能省掉一大笔 IO,也减少了 rewrite 时带来的系统波动。代价是如果 Master/Slave 同时倒掉,会丢失十几分钟的数据,启动脚本也要比较两个 Master/Slave 中的 RDB 文件,载入较新的那个,微博就是这种架构。 

二、发布订阅

2.1 概念

        Redis 发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消息,订阅者(sub)接收消息。

        Redis 客户端可以订阅任意数量的频道。

2.2 模型图

        订阅/发布消息图如下:

        下图展示了频道 channel1 , 以及订阅这个频道的三个客户端 —— client2 client5 client1 之间的关系:

        当有新消息通过 PUBLISH 命令发送给频道 channel1 时, 这个消息就会被发送给订阅它的三个客户端:

2.3 相关命令

# 订阅一个或多个符合给定模式的频道
psubscribe pattern [pattern]# 查看订阅与发布系统状态
pubsub subcommand [argument[argument...]]# 将信息发送到指定的频道
publish channel message# 退订所有给定模式的频道
punsubscribe [pattern[pattern...]]# 订阅给定的一个或多个频道的信息
subscribe channel [channel...]# 退订指定的频道
unsubscribe [channel[channel...]

2.4 测试

        以下实例演示了发布订阅是如何工作的。在我们实例中我们创建了订阅频道名为 redisChat

# 订阅一个频道 redisChat
127.0.0.1:6379> subscribe redisChat
1) "subscribe"
2) "redisChat"
3) (integer) 1
# 等待读取推送的消息

        现在,我们先重新开启个 redis 客户端,然后在同一个频道 redisChat 发布两次消息,订阅者就能接收到消息。

# 发布者发布消息到频道
127.0.0.1:6379> publish redisChat "Hello Redis"
(integer) 1
# 发布者发布消息到频道
127.0.0.1:6379> publish redisChat "Hello xhf"
(integer) 1# 订阅者的客户端会出现以下的消息
1) "message"     # 消息
2) "redisChat"   # 哪个频道的消息
3) "Hello Redis" # 消息的具体内容
1) "message"
2) "redisChat"
3) "Hello xhf"

2.5 原理

        Redis 是使用 C 实现的,通过分析 Redis 源码里的 pubsub.c 文件,了解发布和订阅机制的底层实现,籍此加深对 Redis 的理解。

        Redis 通过 PUBLISH SUBSCRIBE PSUBSCRIBE 等命令实现发布和订阅功能。

        通过 SUBSCRIBE 命令订阅某频道后,redis-server 里维护了一个字典,字典的键就是一个个 channel,而字典的值则是一个链表,链表中保存了所有订阅这个 channel 的客户端。SUBSCRIBE 命令的关键,就是将客户端添加到给定 channel 的订阅链表中。

        通过 PUBLISH 命令向订阅者发送消息,redis-server 会使用给定的频道作为键,在它所维护的 channel字典中查找记录了订阅这个频道的所有客户端的链表,遍历这个链表,将消息发布给所有订阅者。

        Pub/Sub 从字面上理解就是发布(Publish)与订阅(Subscribe),在 Redis 中,你可以设定对某一个 key 值进行消息发布及消息订阅,当一个 key 值上进行了消息发布后,所有订阅它的客户端都会收到相应的消息。这一功能最明显的用法就是用作实时消息系统,比如普通的即时聊天,群聊等功能。

2.6 使用场景

        1、Pub/Sub 构建实时消息系统

        2、Redis Pub/Sub 系统可以构建实时的消息系统

        3、比如很多用 Pub/Sub 构建的实时聊天系统的例子。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/60601.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

第一方支付、第二方支付、第三方支付、第三方支付是什么?

我相信关于支付行业大家多多少少都有一些自己的理解,但是具体的一些名词如标题中的这些,第一方、第二方、第三方支付,到底指的是什么? 第一方支付 也就是现金支付,其本质的意义就是指货币支付,从最早出现货…

猜拳游戏小程序源码 大转盘积分游戏小程序源码 积分游戏小程序源码

简介: 猜拳游戏大转盘积分游戏小程序前端模板源码,一共五个静态页面,首页、任务列表、大转盘和猜拳等五个页面 图片:

Spring与Mybatis集成且Aop整合

目录 一、集成 1.1 集成的概述 1.2 集成的优点 1.3 代码示例 二、整合 2.1 整合概述 2.2 整合进行分页 一、集成 1.1 集成的概述 集成是指将不同的组件、部分或系统组合在一起,以形成一个整体功能完整的解决方案。它是通过连接、交互和协调组件之间的关系来实…

MybatisPlus-插件篇

文章目录 一、前言二、插件1、分页插件2.1.1、引入依赖2.1.1、配置分页插件2.1.3、使用分页方法 2、乐观锁插件2.1、引入依赖2.2、添加版本字段2.3、配置乐观锁插件2.4、执行更新操作 三、总结 一、前言 本文将详细介绍mybatisplus中常用插件的使用。 二、插件 1、分页插件 …

Texlive2023与Texstudio2023卸载与安装(详细全程)

早在两年前安装了texlive2020,最近重新使用总是报错,好像是因为版本过低。我就找了个时间更新一下texlive版本,全程如下。 1、卸载texlive老版本 1)找到texlive目录,比如我的是D:\texlive\2022\tlpkg\installer&…

链路聚合原理

文章目录 一、定义二、功能三、负载分担四、分类五、常用命令 首先可以看下思维导图,以便更好的理解接下来的内容。 一、定义 在网络中,端口聚合是一种将连接到同一台交换机的多个物理端口捆绑在一起,形成一个逻辑端口的技术。通过端口聚合&…

Llama模型结构解析(源码阅读)

目录 1. LlamaModel整体结构流程图2. LlamaRMSNorm3. LlamaMLP4. LlamaRotaryEmbedding 参考资料: https://zhuanlan.zhihu.com/p/636784644 https://spaces.ac.cn/archives/8265 ——《Transformer升级之路:2、博采众长的旋转式位置编码》 前言&#x…

Uniapp笔记(五)uniapp语法4

本章目标 授权登录【难点、重点】 条件编译【理解】 小程序分包【理解】 一、授权登录 我的模块其实是两个组件&#xff0c;一个是登录组件&#xff0c;一个是用户信息组件&#xff0c;根据用户的登录状态判断是否要显示那个组件 1、登录的基本布局 <template><…

【java】【已解决】IDEA启动报错:Lombok Requires Annotation Processing

解决办法&#xff1a; 1、根据异常提示操作&#xff1a; 直接点击错误提示后面的蓝色标识【Enable】&#xff08;小编点完了所以变灰色&#xff09;&#xff0c;此操作等价于下面的步骤&#xff1a; 【File】-->【Settings】-->【Build】-->【Compiler】-->【Ann…

【数学建模】-- 模糊综合评价

模糊综合评价&#xff08;Fuzzy Comprehensive Evaluation&#xff09;是一种用于处理不确定性和模糊性信息的决策分析方法。它通常用于解决复杂的多指标决策问题&#xff0c;其中各指标之间可能存在交叉影响和模糊性的情况。模糊综合评价通过将不确定性和模糊性量化&#xff0…

MongoDB实验——MongoDB配置用户的访问控制

MongoDB 配置用户的访问控制 一、 实验原理 理解admin数据库&#xff1a;安装MongoDB时&#xff0c;会自动创建admin数据库&#xff0c;这是一个特殊数据库&#xff0c;提供了普通数据库没有的功能&#xff0c;例如&#xff0c;有些账户角色赋予用户操作多个数据库的权限&…

地下管线三维自动建模软件MagicPipe3D V3.0发布

2023年9月1日经纬管网建模系统MagicPipe3D V3.0正式发布&#xff0c;该版本经过众多用户应用和反馈&#xff0c;在三维地下管网建模效果、效率、适配性方面均有显著提升&#xff01;MagicPipe3D本地离线参数化构建地下管网模型&#xff08;包括管道、接头、附属设施等&#xff…

0基础学习VR全景平台篇 第94篇:智慧景区浏览界面介绍

一、景区详细信息介绍 点击左上角的图标就可以看到景区详细信息例如景区简介&#xff0c;地址&#xff0c;开放信息&#xff0c;联系电话等 二、问题反馈中心 点击左下角的【问题反馈】按钮向作者进行问题反馈 三、开场地图 1、直接点击开场地图页面上的图标浏览该场景 2、通…

idea新建Java-maven项目时,出现Dependency ‘ xxx(jar包名)‘ not found的解决方案

项目场景&#xff1a; 项目场景&#xff1a;使用idea创建maven项目时&#xff0c;导入简单依赖时&#xff08;本文以mysql-connector-java为例&#xff09;。 问题描述 问题&#xff1a; 首先&#xff0c;在创建新的maven项目中&#xff0c;出现下列两种情况&#xff1a; &am…

hp惠普光影精灵5笔记本HP Pavilion Gaming-15-dk0135tx原装出厂Win10系统

原厂系统自带所有驱动、出厂主题壁纸LOGO、Office办公软件、惠普电脑管家等预装程序 适用型号&#xff1a; 15-dk0011tx,15-dk0018tx,15-dk0019tx,15-dk0020tx,15-dk0021tx,15-dk0038tx 15-dk0039tx,15-dk0040tx,15-dk0041tx,15-dk0125tx,15-dk0126tx,15-dk0127tx 15-dk012…

1.2 BEV感知算法数据形式

本文来自自动驾驶之心知识星球的国内首个BEV感知全栈系列学习教程 Birds-eye-view (BEV) Perception: A Survey and Collection 什么是图像 1. 图像是由相机生成的&#xff0c;是将三维世界 中的坐标点&#xff08;单位为米&#xff09;映射到二维 图像平面&#xff08;单位像…

图像翻拍检测——反射分量分离的特征融合

随着计算机技术的迅速发展&#xff0c;需要建立人与信息一一对应的安保认证技术&#xff0c;通过建立完整的映射网络体系&#xff0c;从而确保每个人的人身、财产、隐私等的安全.与指纹、基因等人体生物特征识别系统相比&#xff0c;人脸识别系统更加友好&#xff0c;不需要人的…

2023有哪些更好用的网页制作工具

过去&#xff0c;专业人员使用HTMLL、CSS、Javascript等代码手动编写和构建网站。现在有越来越多的智能网页制作工具来帮助任何人实现零代码基础&#xff0c;随意建立和设计网站。在本文中&#xff0c;我们将向您介绍2023年流行的网页制作工具。我相信一旦选择了正确的网页制作…

【Terraform学习】使用 Terraform创建 S3 存储桶事件(Terraform-AWS最佳实战学习)

本站以分享各种运维经验和运维所需要的技能为主 《python》&#xff1a;python零基础入门学习 《shell》&#xff1a;shell学习 《terraform》持续更新中&#xff1a;terraform_Aws学习零基础入门到最佳实战 《k8》暂未更新 《docker学习》暂未更新 《ceph学习》ceph日常问题解…

树多选搜索查询,搜索后选中状态仍保留

<template><div class"half-transfer"><div class"el-transfer-panel"><div><el-checkbox v-model"selectAll" change"handleSelectAll">全部</el-checkbox></div><el-input v-model&qu…