Redis持久化-深入理解AOF,RDB

持久化

  • Redis数据全部在内存中,如果宕机,数据必然丢失,因此必须有一种机制保证Redis数据不会因为故障丢失,这就是Redis的持久化机制
  • 持久化方式两种:AOF,RDB,如下图
    • RDB快照模式是一次全量备份,是内存数据的二进制序列化形式,存储紧凑
    • AOF日志方式是连续增量的备份。是内存数据修改指令的记录文本。AOF日志长期运行下来会异常庞大,Redis重启后加载AOF日志会很慢需要定期重写AOF日志。
      在这里插入图片描述
RDB快照原理
  • Redis单线程,需要同时负责N个客户端套接字读写,内存数据结构逻辑读写,定时任务处理(上一节中说明),现在还需要内存快照,而且RDB是必须进行IO操作,此处IO操作是不能用底层select的多路复用。
  • 以上如果都是单线程完成那么肯会有两个问题:
    • 第一RDB的IO操作的时候回严重拖慢服务器性能。因为需要一边IO操作,一边响应客户端socket
    • 第二IO持久化同时,内存还在修改,比如大型hash结构,持久化一半修改了怎么处理?
  • Redis使用操作系统的多进程COW(Copy on write) 机制来实现快照持久化。
fork多进程
  • Redis在持久化时候会调用glibc函数,fork产生一个子进程,持久化是由子进程完成,父进程处理客户端请求。
  • 子进程产生和父进程共享内存中代码段与数据段,这是linux操作系统机制,为节约内存,可以尽可能让他们共享,分离瞬间内存增长几乎不变。
  • 用如下伪代码来说明fork过程,fork时候在父进程中返回子进程pid,子进程返回0,资源不足返回error。
pid = os.fock()
if pid > 0:handle_client_requests();   //父进程处理客户端
if pid == 0:handle_snapshot_write();    //子进程处理快照
if pid < 0:error;
子进程持久化流程
  • fork的模式解决了上文中第一个问题IO高效性问题,那么第二个问题如何解决

  • 子进程在做数据RDB时候,不会修改现有内存结构,只对据结构进行遍历读取。父进程必须响应客户端,修改内存数据。

  • 这个时候才是使用操作系统的copy on write 机制的时候,在fork之后,子进程就认为当前的内存中所有数据都算做此次需要RDB到磁盘的快照,而一旦父进程在此期间需要修改某个数据段,会将共享的当前数据段分离出来,单做现在最新的内存数据,而老的数据当老版本的数据。这时候子进程的相应的数据段页面是不会变化的,还是fork瞬间的那个版本。如下示意图。
    在这里插入图片描述

  • 如上图示意,随着父进程的修改操作越多,只会COW出更多数据页而已,占用部分内存,但是也不可能超过原内存2倍(不可能所有页都在修改)。另外Redis冷数据占比更大,所以Redis实例中被COW的数据页只有一小部分而已。每个页大小4KB,一个Redis实例一般有成千上万个页面。

  • 子进程没有因为数据变化影响,他们看到内存中数据就是fork产生的瞬间的那个内存中的所有数据,我们将这瞬间的数据看成是一个SNASHOP,所以RDB也叫快照的原因。

AOF原理

  • AOF日志存储的是Redis服务器的顺序指令执行序列,AOF日志只记录内存进行修改的指令记录
  • 例如有一份AOF日志记录了Redis实例从创建以来的所有修改性指令,那么就可以通过对一个空Redis实例顺序执行所有指令的方式来复刻当前Redis的状态。
  • Redis收到客户端指令,先进行校验,逻辑处理,没有问题,在存储AOF日志。先执行在存盘。
  • 缺点,AOF日志随着Redis不断运行逐渐变大,加入宕机,加载AOF文件可能需要非常久时间,期间无法对外提供服务。
AOF重写
  • Redis提供了bgrewriteaof指令对AOF日志瘦身。原理如下:
    • fork一个子进程对内存进行遍历,转换成一些列Redis的操作指令例如set, hset等,重写序列化到新的AOF文件中
    • 完成存量的AOF之后,在操作期间的增量AOF日志追加到新的AOF日志文件中,然后替代原有AOF文件。
fsync
  • 还回归到IO操作的问题上,在AOF日志写入时候,实际上是将内容写到内核为文件描述符分配的的一个内存缓冲区中。然后内核在异步将数据刷回磁盘,这时候宕机,AOF日志可能丢失
  • Linux的glibc提供了fsync(int fd)函数可以指定文件的内容强制从内核缓冲区刷新到磁盘。Redis调用fsync就可以保证不丢失,但是IO一次很慢,每次一条命令都一次IO操作性能会很受影响。
  • Redis提供两种策略:
    • 一个永不主动调用fsync,让系统决定何时同步磁盘,非安全性的操作
    • 另一个每个指令都调用fsync一次,会导致Redis延迟变得异常大,影响效率,不推荐
生产做法
  • 快照是通过开启子进程方式进行,他比较消耗资源的操作
    • 遍历整个内存,大块写磁盘家中系统负载
    • AOF的fsync是耗时的IO操作,会降低Redis性能,同时频繁IO增加系统负担。
  • 利用从节点进行持久化,在备份节点没有来自客户端压力,操作系统资源充沛,问题在于需要保证从节点的数据完整性,例如异地多活导致的网络分区,造成数据延迟,会导致一部分数据延迟此时持久化就丢了这部分数据量。应该增加数据监控,保证完了畅通或者能快速恢复
Redis4.0 混合持久化
  • 重启Redis时候,很少使用RDB恢复,因为会丢失大量数据。我们通常用AOF回放,但是AOF回放启动时候加载太慢,导致启动时间变长。
  • Redis4.0 解决了这个问题,兼具AOF,RDB的长处-----混合持久化
    • 将RDB文件的内容与RDB之后的增量修改AOF文件保存在一起
    • 此处AOF日志不是全量日志,而是RDB结束后的AOF日志信息,这样日志量就少太多
    • Redis重启后,先加载Rdb内容,在回放AOF日志,可以完全替代之前的AOF全量,重启效率增加
  • 如下图。
    在这里插入图片描述

上一篇:Redis高效性探索–管道
下一篇:Redis–事务

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/310513.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

推荐一个集录屏、截图、音频于一体的软件给大家

捕获屏幕&#xff0c;网络摄像头&#xff0c;音频&#xff0c;光标&#xff0c;鼠标单击和击键GitHub&#xff1a;https://github.com/MathewSachin/Captura特性 免费 100%免费&#xff0c;你不需要花一分钱开源 根据MIT许可的条款&#xff0c;可以在Github上获得Captura的源…

Redis高效性探索--管道

管道 开始接触Redis时候&#xff0c;对应Redis管道有一个错误认识&#xff0c;任务是redis服务器提供的一种特别的技术&#xff0c;有了这种技术可以加速Redis的存取效率&#xff0c;但是实际上Redis的管道计算&#xff08;Pipeline&#xff09;本身是客户端提供的技术&#x…

Redis--事务理解

事务 一个成熟的数据库系统一般都会有事务的支持&#xff0c;Redis作为一个缓存数据库也不例外&#xff0c;Redis的事务比之关系型数据库mysql&#xff0c;oracle等算比较简单的&#xff0c;Redis中无需理解那么多事务模型&#xff0c;可以直接使用。不过也正是因为简单&#…

.NET中的内存管理

原文来自互联网&#xff0c;由长沙DotNET技术社区编译。 .NET中的内存管理资源分配Microsoft .NET公共语言运行时要求从托管堆分配所有资源。当应用程序不再需要对象时&#xff0c;它们将自动释放。初始化进程后&#xff0c;运行时将保留地址空间的连续区域&#xff0c;该区域最…

Redis存储优化--小对象压缩

小对象压缩 Redis是一种内存数据库&#xff0c;内存是计算机中一种比较宝贵的资源&#xff0c;如果我们不注意节约&#xff0c;Redis很可能出现内存不足&#xff0c;最终导致崩溃。Redis为了优化数据结构的内存占用&#xff0c;增加了非常多的优化点&#xff0c;这些优化也是牺…

.Net微服务实战之技术架构分层篇

一拍即合上一篇《.Net微服务实战之技术选型篇》&#xff0c;从技术选型角度讲解了微服务实施的中间件的选择与协作&#xff0c;工欲善其事&#xff0c;必先利其器&#xff0c;中间件的选择是作为微服务的基础与开始&#xff0c;也希望给一直想在.Net入门微服务的同行有一个很好…

Redis高可用基石--主从同步

主从同步 当我们将Redis用于线上环境&#xff0c;单机肯定是不行的&#xff0c;即使不做集群&#xff0c;我们也应该做主从&#xff0c;有了主从&#xff0c;当主节点&#xff08;master&#xff09;挂掉时候&#xff0c;让运维将从节点&#xff08;slave&#xff09;接管&…

.NET 下基于动态代理的 AOP 框架实现揭秘

.NET 下基于动态代理的 AOP 框架实现揭秘Intro之前基于 Roslyn 实现了一个简单的条件解析引擎&#xff0c;想了解的可以看这篇文章 基于 Roslyn 实现一个简单的条件解析引擎执行过程中会根据条件的不同会在运行时创建一个类&#xff0c;每一次创建都会生成一个新的程序集&#…

C++实现链式基数排序

代码如下: #include <iostream> #include <cmath> using namespace std; typedef int KeyType; const int END -1; const int Radix 10;typedef struct Node {KeyType key;struct Node *next; };Node *CreateList() {KeyType x;Node *q nullptr;cin >> x…

Blazor WebAssembly 3.2.0 Preview 4 如期发布

ASP.NET团队如期3.16在官方博客发布了 Blazor WebAssembly 3.2.0 Preview 4&#xff1a;https://devblogs.microsoft.com/aspnet/blazor-webassembly-3-2-0-preview-4-release-now-available/ &#xff0c;同时在twitter上发了一条信息带上了下面这张图&#xff0c;这张图很形象…

C#/.Net Core/WPF框架初建(国际化、主题色)

English | 简体中文作为 TerminalMACS 的一个子进程模块 - WPF管理端&#xff0c;目前搭建框架部分功能&#xff1a;本地化、国际化、主题色修改等。导航目录1.框架已添加功能说明1.1. 国际化、本地化1.2. Metro风格主窗体1.3. 动态更换主题色2.关于TerminalMACS及本WPF管理端 …

Redis底层实现--字符串

Redis字符串存储实现原理 Redis 中的字符串是可以修改的字符串&#xff0c;在内存中他是以字节数组的形式存在的。我们在入门语言C语言里面的字符串标准形式是以NULL&#xff08;即0x\0&#xff09;作为结束符&#xff0c;但是Redis里面&#xff0c;字符串表示方法不是这样&am…

[C++STL]C++实现string容器

代码如下: #pragma once #define _CRT_SECURE_NO_WARNINGS #include <iostream> #include <assert.h> #include <cstring> using namespace std;class String { public:String(const char *str ""){assert(str ! nullptr);_size strlen(str);_s…

ASP.NET Core 日志框架:Serilog

在 ASP.NET Core 日志模型 中对日志整体实现方式进行了介绍&#xff0c;通过使用内置日志记录器来实现日志的输出路径。而在实际项目开发中&#xff0c;使用第三方日志框架来记录日志也是非常多的&#xff0c;首先一般基础的内置日志记录器在第三方日志框架中都有实现&#xff…

[C++STL]C++实现vector容器

代码如下: #pragma once #include <iostream> #include <assert.h> using namespace std;template<typename T> class Vector { public:typedef T* iterator;typedef const T* const_iterator;Vector() :_start(nullptr), _finish(nullptr), _endOfStorage(…

数据结构与算法--简单栈实现及其应用

栈 栈&#xff08;Stack&#xff09;是一种限制插入和删除只能在一个位置上进行的表&#xff0c;改位置是表的末端&#xff0c;叫做栈顶top。栈的基本操作有push &#xff08;进栈&#xff09;pop&#xff08;出栈&#xff09;栈又叫做LIFO&#xff08;后进先出&#xff09;表…

树莓派销量突然猛增

树莓派基金会负责人 Eben Upton 近日在推特上公布&#xff0c;树莓派在三月份的销量达到 640,000 套&#xff0c;三月也成为有史以来销售量第二高的时期。Eben 认为&#xff0c;这大概是由于受 COVID-19 冠状病毒肺炎影响&#xff0c;在居家隔离期间&#xff0c;树莓派能够以低…

[C++STL]C++实现list容器

代码如下&#xff1a; #pragma once #include <iostream> using namespace std;template<typename T> struct ListNode {T _data;ListNode<T> *_next;ListNode<T> *_prev;ListNode(const T & val T()) :_data(val), _next(nullptr), _prev(nullp…

Java动态追踪技术--BTrace

Java动态追踪技术 需求翻译官的日常工作不是在的改bug&#xff0c;发布代码&#xff0c;就是在加日志查找bug的路上。查BUG的过程是痛苦的&#xff0c;我们总是在不停的看代码&#xff0c;修改代码&#xff0c;添加日志&#xff0c;从而帮助我们发现问题&#xff0c;这种形式是…

C#黔驴技巧之实现统计结果排名

本节是实现统计排名的一点技巧&#xff0c;可能有一部分童鞋在实现排名统计绕了一大圈&#xff0c;最后还不如两行代码就搞定&#xff0c;代码清晰而可读性强&#xff0c;接下来我们来一起来看看。我们知道在SQL Server中可以利用Row_Number、Rank等函数进行排名&#xff0c;在…