redis aof写入以及aof重写的源码分析

这里写目录标题

    • 版本
    • aof的面试问题
      • aof正常写入流程
      • aof重写流程

版本

redis:6.2.7

aof的面试问题

最近找工作,面试被问倒了,记录一下
比如redis的aof指令会不会丢失?比如在重写aof的什么新来的操作怎么办?

在重写的时候会新开一个文件,这个大家可能都知道,然后会将新来的操作放在重写缓冲区,但是这个要不要落地,怎么落地?难住我了。后面想了想应该是写入老的aof文件,重写缓冲区内存存一份,当老的aof文件重写完成后,父进程上锁阻塞重写缓冲区,让新的aof写入新接收的指令,再解锁重新接收指令,这样避免了数据丢失,同时也最低限度避免了阻塞耗时,但是我觉得这样加锁性能会有蛮大的损耗,但也想不出来其他好的做法,当然这个只是我面完试之后一个说的通的猜想。注:这是错误的猜想,单纯记录当时的想法,具体过程还是给看代码梳理流程

aof正常写入流程

aof是写后日志,肯定是在执行完redis命令之后写入的。feedAppendOnlyFile核心函数,每当执行call函数之后,执行完相应的cmd就会调用propagate函数,随后就调用feedAppendOnlyFile,一般来说应该是在指令执行完的beforeSleep调用flushAppendOnlyFile,进行相应的程序缓冲区写入、内核缓冲区flush以及fsync到硬盘中。

feedAppendOnlyFile函数只会单纯记录aof_buf,不涉及操作系统write操作,同时如果有一个子进程打开类型还是aof重写的,会加入到重写缓冲区aof_rewrite_buf_blocks这个字段里,数据结构是双向链表
在这里插入图片描述
flushAppendOnlyFile函数会涉及write、flush、fsync操作,正常写入流程还是比较简单易懂的

aof重写流程

这一块的流程比较复杂。
核心函数rewriteAppendOnlyFileBackground,在每次重写的时候都会先创建一组管道,下标0是读管道,下标1是写管道,依次类推,看成2个一组就好了。
在这里插入图片描述
然后会进入rewriteAppendOnlyFile,这个是重写的核心函数,子进程copy on write临时文件之后,会有一个简单读父进程发来aof的buf的过程,两个维度来进行控制
在这里插入图片描述
然后就是发信号通知父进程不要在发差异(就是重写缓冲区数据)了,子进程要读完已发过来的差异就准备rename文件去了,这个rename的是temp-rewriteaof-%d.aof这个文件,名字要变成temp-rewriteaof-bg-%d.aof,%d指的是子进程id。
在这里插入图片描述
这个时候我一直在思考,子进程已经不让父进程继续同步了,再来新的指令怎么存到新aof文件啊?子进程马上就要退出了呀,父进程可以把新来的命令存到老的aof文件中,那新的aof文件怎么获取新的命令?父进程又不会重新处理新的aof文件,再三确认没有阻塞机制,我就在猜想那一定会丢相应的aof记录啊,但一想这么牛逼的产品怎么可能会在重写文件上丢失命令,自己重新编了编测了测,发现并没有丢失,觉得很神奇,为什么不阻塞,新aof文件还是对的,百思不得其解。上网也查了查发现页没有相关解答,又看了看redis debug 日志,顺着日志走找到解决思路。

serverCron函数中,有这样的一个操作,会检查子进程是否操作完。不同类型的处理函数也是不同的,backgroundRewriteDoneHandler这个函数是主角,在checkChildrenDone
在这里插入图片描述
子进程fork重写完成,父进程还没有清理相应子进程状态,父进程还是会往重写缓冲区写一份数据的,当父进程监听到子进程退出的时候,backgroundRewriteDoneHandler函数再把重写缓冲区的文件写入到新aof文件中,写完再重命名,完成了这个操作,就不会有数据丢失了。又不阻塞又不会丢数据,就算是监控子进程这一步挂掉了,也可以继续使用老的aof文件,老的aof文件除了大一点没其他毛病,只能说这个设计思路无敌,又学会了一招。
在这里插入图片描述

总结:子进程在快fork完成时候利用管道告知父进程不要在发送重写缓冲内容了,在重写子进程没完全退出的时候还是会把新来的命令放在重写缓冲区的,重写缓冲区是由双向链表组成。父进程会监控子进程完成的进度,当子进程执行结束后,父进程会把没同步的重写缓冲区的数据写入到新的aof文件中去,这样既没有加锁阻塞新来的redis命令执行,也不会丢失redis命令,设计思路真的棒,又学会了一招。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/28279.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

无限可能LangChain——概念指南之架构

本节包含对 LangChain 关键部分的介绍。 架构 LangChain 作为一个框架由多个包组成。 langchain-core 该包包含不同组件的基本抽象以及将它们组合在一起的方法。此处定义了LLM、向量存储、检索器等核心组件的接口。这里没有定义第三方集成。依赖项有目的地保持非常轻量级。…

LaTex入门教程

目录 1.说明 2.页面的分区 3.入门介绍 (1)命令 (2)环境 (3)声明 (4)注释 4.代码结构 (1)导言区 (2)支持中文 (3…

【字符串】65. 有效数字

本文涉及知识点 字符串 LeetCode65. 有效数字 给定一个字符串 s ,返回 s 是否是一个 有效数字。 例如,下面的都是有效数字:“2”, “0089”, “-0.1”, “3.14”, “4.”, “-.9”, “2e10”, “-90E3”, “3e7”, “6e-1”, “53.5e93”,…

药品销售管理系统带万字文档药店管理系统java项目药店商城网站

文章目录 药品销售管理系统一、项目演示二、项目介绍三、万字项目文档四、部分功能截图五、部分代码展示六、底部获取项目源码带万字文档(9.9¥带走) 药品销售管理系统 一、项目演示 药品销售管理系统 二、项目介绍 系统角色:管理…

GPU的工作原理

location: Beijing 1. why is GPU CPU的存储单元和计算单元的互通过慢直接促进了GPU的发展 先介绍一个概念:FLOPS(Floating Point Operations Per Second,浮点运算每秒)是一个衡量其执行浮点运算的能力,可以作为计算…

【MySQL】事务的特性和隔离级别

创作不易&#xff0c;本篇文章如果帮助到了你&#xff0c;还请点赞 关注支持一下♡>&#x16966;<)!! 主页专栏有更多知识&#xff0c;如有疑问欢迎大家指正讨论&#xff0c;共同进步&#xff01; 给大家跳段街舞感谢支持&#xff01;ጿ ኈ ቼ ዽ ጿ ኈ ቼ ዽ ጿ ኈ ቼ …

vue 应用测试(一) --- 介绍

vue 应用测试&#xff08;一&#xff09; ---介绍 前端测试简介组件测试Jest 测试框架简介其他测试框架 第一个测试避免误报如何组织测试代码 组件挂载Vue2 组件挂载的方式Vue3 的挂载方式vue-test-utils挂载选项 如何调试测试用例参考小结 前端测试简介 软件测试&#xff1a;…

[AIGC] Python的Range函数

Python的range()函数是一个内置函数&#xff0c;常常用于编程中生成数列。这个函数可以生成一个整数序列&#xff0c;这个序列通常用在循环中。 文章目录 基本用法详细用法注意事项 基本用法 range()函数的基本形式为 range(stop) —— 这将生成一个从0开始&#xff0c;到stop…

Docker_1.0

1.初识Docker 1.1.什么是Docker 微服务虽然具备各种各样的优势&#xff0c;但服务的拆分通用给部署带来了很大的麻烦。 - 分布式系统中&#xff0c;依赖的组件非常多&#xff0c;不同组件之间部署时往往会产生一些冲突。 - 在数百上千台服务中重复部署&#xff0c;环境不一…

Content type ‘application/x-www-form-urlencoded;charset=UTF-8‘ not supported

Content type application/x-www-form-urlencoded;charsetUTF-8 not supported 问题背景新增页面代码改造 问题背景 这里有一个需求&#xff0c;前端页面需要往后端传参&#xff0c;参数包括主表数据字段以及子表数据字段&#xff0c;由于主表与子表为一对多关系&#xff0c;在…

基于单片机的多功能智能小车设计

第一章 绪论 1.1 课题背景和意义 随着计算机、微电子、信息技术的快速发展,智能化技术的发展速度越来越快,智能化与人们生活的联系也越来越紧密,智能化是未来社会发展的必然趋势。智能小车实际上就是一个可以自由移动的智能机器人,比较适合在人们无法工作的地方工作,也可…

C++ 12 之 指针引用

c12指针引用.cpp #include <iostream>using namespace std;struct students12 {int age; };int main() {students12 stu;students12* p &stu; // 结构体指针students12* &pp p; // 结构体指针起别名pp->age 20;// (*pp).age 22;cout << "…

【CTF Web】CTFShow 探针泄露 Writeup(PHP+探针泄露+信息收集)

探针泄露 10 对于测试用的探针&#xff0c;使用完毕后要及时删除&#xff0c;可能会造成信息泄露 解法 查看网页源代码。 view-source:https://11170dfe-84c7-4fde-b1ca-5d1ec3dd7570.challenge.ctf.show/没有找到有用的信息。 用 dirsearch 扫描。 dirsearch -u https://1…

打造私密的通信工具,极空间搭建免费开源的电子邮件管理程序『Cypht』

打造私密的通信工具&#xff0c;极空间搭建免费开源的电子邮件管理程序『Cypht』 哈喽小伙伴门好&#xff0c;我是Stark-C~ 说起电子邮件大家都不陌生&#xff0c;哪怕是在当前微信或者QQ已经非常普遍的今天&#xff0c;电子邮件在我们很多人的工作中都充当了重要的通信工具。…

【TB作品】基于STM32单片机的实验室器材管理登记二维码系统

这个单片机代码实现了一个实验室管理系统&#xff0c;该系统的主要功能包括记录和管理ID信息、日期和时间、以及显示这些信息到OLED屏幕上。以下是对代码主要功能的分析&#xff1a; 全局变量定义 定义了多个全局变量来存储系统状态、页面、密码、ID列表等信息。time 结构体用…

专题六——模拟

目录 一替换所有的问号 二提莫攻击 三N字形变换 四外观数列 五数青蛙 一替换所有的问号 oj链接&#xff1a;替换所有的问号 思路&#xff1a;简单模拟&#xff1b;注意i0和in是处理越界问题就行&#xff01;&#xff01; class Solution { public:string modifyString…

docker容器基本原理简介

一、docker容器实例运行的在linux上是一个进程 1&#xff09;、我们通过docker run 通过镜像运行启动的在linux上其实是一个进程&#xff0c;例如我们通过命令运行一个redis&#xff1a; docker run -d --name myredis redis2&#xff09;、可以看到首先我们本地还没有redis镜…

【LeetCode最详尽解答】11-盛最多水的容器 Container-With-Most-Water

欢迎收藏Star我的Machine Learning Blog:https://github.com/purepisces/Wenqing-Machine_Learning_Blog。如果收藏star, 有问题可以随时与我交流, 谢谢大家&#xff01; 链接&#xff1a; 11-盛最多水的容器 直觉 这个问题可以通过可视化图表来理解和解决。 通过图形化这个…

「动态规划」如何求乘积最大子数组?

152. 乘积最大子数组https://leetcode.cn/problems/maximum-product-subarray/description/ 给你一个整数数组nums&#xff0c;请你找出数组中乘积最大的非空连续子数组&#xff08;该子数组中至少包含一个数字&#xff09;&#xff0c;并返回该子数组所对应的乘积。测试用例的…

【数据结构】初识集合深入剖析顺序表(Arraylist)

【数据结构】初识集合&深入剖析顺序表&#xff08;Arraylist&#xff09; 集合体系结构集合的遍历迭代器增强for遍历lambda表达式 List接口中的增删查改List的5种遍历ArrayList详解ArrayList的创建ArrayList的增删查改ArrayList的遍历ArrayList的底层原理 &#x1f680;所属…