【Redis】持久化操作详解

Redis 持久化操作详解

Redis 实现持久化的时候,具体是按照什么样的策略来实现的呢?

Redis支持两种方式的持久化,一种是RDB方式、另一种是AOF(append-only-file)方式,两种持久化方式可以单独使用其中一种,也可以将这两种方式结合使用。

  • RDB(Redis DataBase):根据指定的规则将内存中的数据定期备份存储在硬盘上,
  • AOF(Append Only File):每次执行命令后将命令本身记录下来,实时备份

一、RDB 持久化

1.1 RDB 原理

RDB 持久化是通过生成数据快照(Snapshot)的方式,将 Redis 内存中的数据写入到磁盘上的二进制文件中。这个文件被称为 RDB 文件。RDB 文件可以在 Redis 重启时用于恢复数据。

img

Redis 提供了两种生成 RDB 文件的命令:SAVEBGSAVE

  • SAVE 命令:在主线程中执行生成 RDB 文件的操作。由于 ,由于和执行操作命令在同一个线程,如果写入 RDB 文件的时间太长,中会阻塞主线程
  • BGSAVE 命令:创建一个子进程来生成 RDB 文件,这样可以避免了阻塞主线程的情况

重点介绍一下:BGSAVE的工作流程

Redis的BGSAVEe工作流程是通过创建子进程来实现异步生成快照。在这个过程中,Redis使用了写时复制(copy-on-write)技术,它的核心思想是在主进程发生写操作时,会将相关的内存页复制一份,然后交给子进程使用,而主进程则继续进行正常的读写操作。这样可以保证只有在出现需要变更的数据时才进行数据复制,从而减少额外内存消耗和提高性能。

![外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传](https://img-home.csdnimg.cn/images/20230724024159.png?origin_url=C%3A%5CUsers%5CTR%5CAppData%5CRoaming%5CTypora%5Ctypora-user-images%5Cimage-20240527213555608.png&pos_id=img-kqsorV6I-17

当执行BGSAVE命令时,Redis会创建一个子进程来执行实际的持久化工作,同时父进程继续处理客户端的其他请求。子进程会将数据写入内存的临时文件中,使用写时复制技术来保证数据的一致性。在生成RDB文件的过程中,只有当发生需要变更的数据时才进行内存页的复制,从而避免内存的额外占用。

1.2 RDB 自动化配置

Redis 可以通过配置文件的选项来实现自动化的 RDB 持久化,

配置文件位置一般:
在这里插入图片描述

具体配置如下:

save 900 1
save 300 10
save 60 10000

在这里插入图片描述

别看选项名叫 save,实际上执行的是 bgsave 命令,也就是会创建子进程来生成 RDB 快照文件。开启之后,RDB的目录一般默认:/var/lib/redis(可以自行配置的)

只要满足上面条件的任意一个,就会执行 bgsave,它们的意思分别是:

  • 900 秒之内,对数据库进行了至少 1 次修改;
  • 300 秒之内,对数据库进行了至少 10 次修改;
  • 60 秒之内,对数据库进行了至少 10000 次修改。

只要满足以上任一条件,Redis 就会执行一次 BGSAVE 操作。

Redis 的 RDB(Redis Database)快照是全量快照,每次执行时都会将内存中的所有数据记录到磁盘。如果设置频率太高则会让成本变高,负载较重,频繁执行会影响 Redis 的性能,而设置的频率太低则会在服务器故障时导致更多数据丢失。通常,RDB 快照至少设置为每 5 分钟保存一次,以在性能和数据丢失风险之间取得平衡。与 AOF(Append Only File)持久化相比,RDB 快照在故障时可能丢失更多数据,因为 AOF 可以每秒记录操作,减少数据丢失。

如果 Redis 服务器宕机,在使用 RDB 快照时,系统会丢失自上次快照以来的所有数据。例如,如果快照每 5 分钟执行一次,宕机时最多可能会丢失 5 分钟的数据。

1.3 RDB 的优缺点

优点

  • 数据恢复速度快:RDB 文件是紧凑的二进制文件,加载速度很快。
  • 占用磁盘空间小:RDB 文件经过压缩,占用的磁盘空间较少。
  • 适合大数据恢复:在数据量较大时,RDB 文件的加载速度要比 AOF 快得多。

缺点

  • 数据丢失风险较高:由于 RDB 是定期快照,如果 Redis 在两次快照之间发生故障,所有在此期间的数据修改将会丢失。
  • 频繁快照对性能的影响:频繁执行 BGSAVE 操作会导致额外的磁盘 I/O 操作和 CPU 资源消耗。

1.4 RDB 快照期间的数据修改

在执行 BGSAVE 过程中,Redis 仍然可以继续处理写操作。这是通过写时复制技术(Copy-On-Write, COW)实现的。当 BGSAVE 命令执行时,Redis 会通过 fork() 创建一个子进程,子进程与主进程共享相同的内存数据。只有在修改数据时,才会将被修改的数据复制一份,从而主进程可以继续处理新的写操作,而子进程可以继续读取原来的数据进行 RDB 快照。

在这里插入图片描述

Redis 的 BGSAVE 机制通过创建子进程在后台执行数据快照,有效地减少了创建子进程时的性能损耗,并避免了阻塞主线程子进程与父进程共享内存数据,使得子进程可以直接读取并写入 RDB 文件,而不会影响主线程的只读操作。然而,一旦主线程需要修改共享数据,就会触发写时复制机制,复制数据副本供主线程修改,而子进程继续使用原始数据进行快照。这意味着在快照过程中主线程的修改不会即时反映到 RDB 文件中,存在数据丢失的风险。此外,极端情况下,频繁的写操作可能导致内存占用翻倍,因此在写操作密集的场景中,需要密切监控内存使用,以防止内存耗尽。总之,bgsave 提供了一种高效的数据持久化方式,但同时也需要谨慎管理内存资源和考虑数据一致性问题。

1.5 RDB 实践示例

在实际应用中,可以通过以下命令和配置来实现 RDB 持久化:

  • 在命令行中,手动生成 RDB 快照:

    SAVE
    

    BGSAVE
    
  • 配置文件设置自动生成 RDB 快照:

    save 900 1
    save 300 10
    save 60 10000
    

二、AOF 持久化

2.1 AOF 原理

AOF(Append Only File)持久化通过记录每次写操作的日志来实现数据的持久化。Redis 将每次写操作(例如 SETINCR 等)记录到 AOF 文件中,当 Redis 重启时,可以通过重放 AOF 文件中的写操作来恢复数据。

AOF 的⼯作流程操作:命令写⼊(append)、⽂件同步(sync)、⽂件重写(rewrite)、重启加载(load)

在这里插入图片描述

在 Redis 中 AOF 持久化功能默认是不开启的,需要我们修改 redis.conf 配置文件中的以下参数:
在这里插入图片描述

开启之后,所在的位置和RDB的目录一样:/var/lib/redis(可以自行配置的)

在这里插入图片描述

AOF 文件是纯文本文件,包含了所有修改 Redis 数据的命令。Redis 提供了三种不同的同步策略来控制 AOF 文件的写入频率:

  • appendfsync always:每次有数据修改时都同步到 AOF 文件,性能最差但数据最安全。
  • appendfsync everysec:每秒同步一次 AOF 文件,性能和数据安全性之间的折中方案。
  • appendfsync no:由操作系统决定何时同步 AOF 文件,性能最好但数据安全性最差。
写回策略写回时机优点缺点
Always同步写回可靠性高、最大程度保证数据不丢失性能开销大
Everysec每秒写回性能适中宕机时会丢失1秒内的数据
No由操作系统控制写回性能好宕机时丢失的数据可能会很多

2.2 AOF 重写

随着时间的推移,AOF 文件会不断增长,为了避免文件过大,Redis 提供了 AOF 重写机制。AOF 重写通过创建一个新的 AOF 文件,包含相同的数据但体积更小。

AOF 重写是在后台通过创建子进程来完成的,不会阻塞主线程。

在这里插入图片描述

重写过程如下:

  1. 创建一个子进程。
  2. 子进程读取当前的数据库快照,并将其写入到新的 AOF 文件中。
  3. 主线程继续记录新的写操作到重写缓冲区中。
  4. 重写完成后,将重写缓冲区中的写操作追加到新的 AOF 文件中。
  5. 用新的 AOF 文件替换旧的 AOF 文件。

在Redis执行AOF重写(AOF rewrite)过程中,子进程负责创建新的AOF文件,而父进程则继续处理客户端请求,并将新请求产生的AOF数据写入到缓冲区,随后刷新到原有的AOF文件中。子进程在创建时继承了父进程的内存状态,因此其内存数据反映了父进程fork操作之前的状态。对于fork之后父进程接收的新请求及其对内存的修改,子进程并不知情。为此,父进程额外设置了一个名为aofrewrite_buf的缓冲区,专门用于存放fork之后接收的数据。当子进程完成新AOF文件的写入后,会通过信号通知父进程,父进程随后将aofrewrite_buf缓冲区中的内容追加到新AOF文件中。这一过程完成后,新的AOF文件将取代旧的AOF文件,确保数据的完整性和一致性。

那么是如何让原本的数据但体积更小

重写机制的妙处在于,尽管某个键值对被多条写命令反复修改,最终也只需要根据这个「键值对」当前的最新状态,然后用一条命令去记录键值对,代替之前记录这个键值对的多条命令,这样就减少了 AOF 文件中的命令数量。最后在重写工作完成后,将新的 AOF 文件覆盖现有的 AOF 文件。

在这里插入图片描述

2.3 AOF 的优缺点

优点

  • 数据持久性高:AOF 可以记录每个写操作,通过适当的同步策略,几乎可以实现秒级的数据持久性。
  • 可读性好:AOF 文件是纯文本文件,可以很方便地查看和编辑。
  • 适合频繁写操作:由于 AOF 是记录每次写操作,不会像 RDB 那样生成大文件,因此适合频繁写操作的场景。

缺点

  • 文件体积大:相比 RDB,AOF 文件会更大,因为它记录了所有的写操作。
  • 恢复速度较慢:重放 AOF 文件中的写操作来恢复数据,速度比加载 RDB 文件要慢。

2.4 AOF 实践示例

在实际应用中,可以通过修改配置文件:

  • 开启 AOF 持久化:

    appendonly yes
    
  • 配置 AOF 同步策略:

    appendfsync everysec
    
  • 手动触发 AOF 重写:

    BGREWRITEAOF
    

三、混合持久化

尽管 RDB 比 AOF 的数据恢复速度快,但是快照的频率不好把握:

  • 如果频率太低,两次快照间一旦服务器发生宕机,就可能会比较多的数据丢失;
  • 如果频率太高,频繁写入磁盘和创建子进程会带来额外的性能开销。

那有没有什么方法不仅有 RDB 恢复速度快的优点和,又有 AOF 丢失数据少的优点呢?

当然有,那就是将 RDB 和 AOF 合体使用,这个方法是在 Redis 4.0 提出的,该方法叫混合使用 AOF 日志和内存快照,也叫混合持久化。

如果想要开启混合持久化功能,可以在 Redis 配置文件将下面这个配置项设置成 yes:

aof-use-rdb-preamble yes

混合持久化工作在 AOF 日志重写过程。

当开启了混合持久化时,在 AOF 重写日志时,fork 出来的重写子进程会先将与主线程共享的内存数据以 RDB 方式写入到 AOF 文件,然后主线程处理的操作命令会被记录在重写缓冲区里,重写缓冲区里的增量命令会以 AOF 方式写入到 AOF 文件,写入完成后通知主进程将新的含有 RDB 格式和 AOF 格式的 AOF 文件替换旧的的 AOF 文件。

也就是说,使用了混合持久化,AOF 文件的前半部分是 RDB 格式的全量数据,后半部分是 AOF 格式的增量数据。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/diannao/17213.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

springcloud 之 Ribbon Hystrix Feign bus 动态修改配置

Ribbon 是微服务架构图中负责负载均衡的 组件。 BeanLoadBalancedpublic RestTemplate getRestTemplate() {return new RestTemplate();}测试如下: //微服务方式 Ribbon方式GetMapping("ribbon/{name}")public String RibbonTest(PathVariable String nam…

大模型所谓的参数是什么?大模型为什么需要训练?大模型训练到底干了什么?

“ 大模型的本质是机器学习,机器学习的本质就是一种数学模型。” 我们经常能听到这样的说法,某某大模型有多少参数,某某大模型参数量又提升了,这里所说的参数到底是什么? 我们知道大模型是训练出来的,那么…

中小学校活动怎样投稿给媒体报道宣传?

身为一名学校老师,同时承担起单位活动向媒体投稿的宣传重任,我深知每一次校园活动背后的故事,都承载着师生们的辛勤汗水与教育的无限可能。起初,我满怀着对教育的热情,希望通过文字传递校园的温暖与光芒,却在投稿的道路上遇到了前所未有的挑战。 最初,我选择了最传统的路径——…

【RSGIS数据资源】中国多时期土地利用遥感监测数据集(CNLUCC)

文章目录 数据基本信息摘要数据说明数据引用方式 数据基本信息 数据时间: 多时期(1970年代末期以来11期) 空间位置: 中国 数据格式: 矢量与栅格 空间分辨率: 30m 主题分类: 中国土地利用遥感监测数据 DOI标识&#xf…

UNION的使用

UNION的使用 给出将多条查询语句组合成单个结果集,两个表对应的列数和数据类型必须相同 UNION操作符: 返回两个查询结果集的并集,并去除重复记录 UNION ALL操作符 返回两个查询的结果集的并集。不去掉两个结果集的重复部分,重…

存储方式 - 前端学习

1. cookie是什么?你了解cookie吗? 在计算机领域中,特指一种由服务器发送到用户浏览器并保存在用户计算机上的小型文本文件。这个文件可以被服务器用来识别用户身份、跟踪用户活动、保存用户设置等。它通常由名称、值、域名、路径、过期时间等…

【漏洞复现】号卡极团分销管理系统 ue_serve.php 任意文件上传漏洞

0x01 产品简介 号卡极团分销 管理系统,同步对接多平台,同步订单信息,支持敢探号一键上架,首页多套U|商品下单页多套模板,订单查询支持实时物流信息、支持代理商自定义域名、泛域名绑定,内置敢探号、172平台…

CLIP源码详解:clip.py 文件

前言 这是关于 CLIP 源码中的 clip.py 文件中的代码带注释版本。 clip.py 文件的作用:封装了 clip 项目的相关 API,通过这些 API ,我们可以轻松使用 CLIP 项目预训练好的模型进行自己项目的应用。 另外不太容易懂的地方都使用了二级标题强…

【机器学习300问】101、1x1卷积有什么作用?

卷积神经网络最重要的操作就是卷积层的卷积操作,之前文章中介绍过,卷积核filter往往都是3x3或者5x5什么的,但有一种非常特殊的卷积——1x1卷积。他在CNN中扮演着非常重要的角色。 一、通道维度的降维/升维 这是1x1卷积最显著的作用之一。通过…

AIGC 008-IP-Adapter文本兼容图像提示适配器用于文本到图像扩散模型

AIGC 008-IP-Adapter文本兼容图像提示适配器用于文本到图像扩散模型! 文章目录 0 论文工作1 论文方法2 效果 0 论文工作 这篇论文介绍了 IP-Adapter,一种 高效地将预训练的图像到图像转换模型适应到新领域 的方法。它通过在预训练模型的 输入端 添加一个…

如果任务过多,队列积压怎么处理?

如果任务过多,队列积压怎么处理? 1、内存队列满了应该怎么办2、问题要治本——发短信导致吞吐量降低的问题不能忽略!!3、多路复用IO模型的核心组件简介1、内存队列满了应该怎么办 如图: 大家可以看到,虽然现在发短信和广告投递,彼此之间的执行效率不受彼此影响,但是请…

SpringBoot 上传文件示例

示例效果&#xff1a; 前端代码&#xff1a; <html> <head><title>上传文件示例</title></head> <body> <h2>方式一&#xff1a;普通表单上传</h2> <form action"/admin/upload" method"post" enctyp…

【Android14 ShellTransitions】(五)启动Transition

这一节的内容涉及WMCore以及WMShell&#xff0c;主要是启动Transition。 回到ActivityStarter.startActivityUnchecked方法&#xff1a; 看下最后启动Transition的部分&#xff0c;在ActivityStarter.handleStartResult中&#xff1a; 只关注我们要关注的部分。 首先是如果这…

网络原理-HTTP协议

HTTP协议 HTTP协议全称为超文本传输协议,除了能传输字符串,还能传输图片、视频、音频等。 当我们在访问网页的时候,浏览器会从服务器上下载数据,这些数据都会放在HTTP响应中,然后浏览器再根据这个HTTP响应显示出网页信息。 抓包 抓包工具本质上是一个代理工具,即我们将构造…

STM32H743+USBHID+CubeMX配置

一、环境准备 电脑系统&#xff1a;Windows 10 专业版 20H2 IDE&#xff1a;Keil v5.35、STM32CubeMX v6.5.0 测试硬件&#xff1a;正点原子阿波罗STM32H743 二、测试步骤 1、使用用例工程 配置STM32H743定时器功能-CSDN博客https://blog.csdn.net/horse_2007s/article/d…

HR招聘面试测评,哪些工作岗位需要测评创新能力?

什么是创新能力&#xff1f; 创新能力指在现有的物质基础上&#xff0c;通过某些特定的条件&#xff0c;促成满足未来社会发展的新事物。无论是个人还是国家都需要巨大的创新能力&#xff0c;因为创新是一切发展的根基&#xff0c;离开了创新&#xff0c;所有的发展都是原地踏…

每日复盘-20240527

今日关注&#xff1a; 六日涨幅最大: ------1--------300956--------- 英力股份 五日涨幅最大: ------1--------300956--------- 英力股份 四日涨幅最大: ------1--------301361--------- 众智科技 三日涨幅最大: ------1--------301361--------- 众智科技 二日涨幅最大: ----…

CAS原理技术

CAS原理技术 背景介绍结构体系术语接口原理基础模式1. 首次访问集成CAS Client的应用2. 再次访问集成CAS Client的同一应用3. 访问集成CAS Client的其他应用 代理模式1. 用户在代理服务器上执行身份认证2. 通过代理应用访问其他应用上授权性资源 背景 本文内容大多基于网上其他…

开机必启截图标注类神器Snipaste,基本使用及技巧

目录 一、软件简介二、基本安装三、自启设置四、快捷操作五、使用技巧 一、软件简介 Snipaste 是一款简单高效的截图工具。只需按下 F1 即可截图&#xff08;可进行自主设置&#xff09;&#xff0c;再按 F3 即可将截图置顶显示&#xff08;贴图功能&#xff09;。你还可以将剪…

反射器与联邦实验

要求&#xff1a; 1、AS1存在两个环回, 一个地址为192.168.1.0/24该地址不能在任何协议中宣告AS3存在两个环回, 一个地址为192.168.2.0/24该地址不能在任何协议中宣告 最终要求这两个环回可以互相通讯; AS1的另一个环回为10.1.1.0/24 AS3的另-个环回为10.1.2.0/24 2、整个AS2的…