Redis高可用基石--主从同步

主从同步

  • 当我们将Redis用于线上环境,单机肯定是不行的,即使不做集群,我们也应该做主从,有了主从,当主节点(master)挂掉时候,让运维将从节点(slave)接管,服务可以继续,否则主节点宕机后重启恢复数据的一段时间很长,期间无法提供服务。
  • 讨论主从同步之前,我们必须先了解一下先到分布式系统理论的基础-------CAP理论
CAP原理
  • CAp原理好比分布式领域的基础定律,他分别制定如下三个方面
    • C:Consistent,一致性
    • A:Availability,可用性
    • P:Partition tolerance,分区容错性
  • 分布式系统中我们的机器一般都不可能在同一个机房,因为如果断电,那就图团灭了,这就意味着我们需要部署多机房,甚至不同地域,通过网络进行通讯,这个网络就有断开的风险,这种网络断开的场景就叫网络分区
  • 我们通过下图演示,网络分区时候,两个分布式节点之间无法通讯,对一个节点操作无法同步,所有数据一致性无法保证
  • 此时要保证分布式节点数据一致,我们只能牺牲可用性,我们先暂停对外服务,等节点恢复,同步完在说。

在这里插入图片描述

  • 如上图说明,我们可以总结CAP原理:当网络分区发生时候,一致性和可用性两难全。
最终一致性
  • Redis主从数据是异步同步的,所有分布式Redis系统并不满足一致性,Client端修改Redis之后会立刻返回,然后主动从网络异步同步,所以计算主从网络断开,还是可以对外服务,所以Redis此时满足可用性
  • Redis保证最终一致性:从节点通过异步同步,经一段时间后追赶上主节点,最终主从一直,即使网络断开时候不一致,等恢复在同步还是最终可以一致。
主从同步与从从同步
  • Redis可能有多个从节点,并不是每个从节点都和主节点通讯同步数据,因为这样会导致主节点压力过大,从节点直接直接进行数据同步,也可以达到最终一致性,减少主节点的负担。
增量同步
  • Redis同步的是指令流,主节点将对自己状态修改的指令记录在内存buffer,异步将buffer中指令同步从节点,从节点一边执行同步的指令流来达到主节点一样的状态,一边向主节点反馈自己同步到哪里的偏移量。
  • 因为内存buffer优先,Redis主节点不能将所有记录同时放buffer中。Redis内存buffer是一个定长换线数组,容量满了就覆盖之前的内容。
    在这里插入图片描述
  • 问题:如果网络不好,从节点无法段时间同步buffer中数据,网络恢复后buffer中可能已经被覆盖了好几遍了,那么将会丢失很多数据,无法通过同步buffer指令进行同步,这个时候,需要用到更加复杂的同步机制----快照同步。
快照同步
  • 快照同步恒耗时,好资源
  1. 在主节点执行bgsave,将当前内存数据load到磁盘快照文件
  2. 将快照文件通过网络传输到从节点
  3. 从节点接收快照文件后,先清空内存,然后立即执行一次全量加载
  4. 加载完快照后继续增量同步buffer数据。
  • 问题: 整个快照同步过程,主节点的增量信息还是通过复制buffer,如果快照同步时间太久,导致buffer的复制还是被覆盖,这样会导致快照同步完成后还是无法增量复制,就会再次发起快照同步,依次死循环。
    在这里插入图片描述
  • 解决方法,将buffer的大小配置一个合理的大小,避免快照复制的死循环。
无盘复制
  • 因为bgsave的时候,进行恒耗时的文件IO,在非SSD磁盘存储时候,快照同步会对系统负载产生较大影响。
  • Redis同步方法还有另一个方式,无盘复制:
    • 在生成快照的时候就是遍历主节点的一个过程,主节点一边遍历内存,一边将序列化后的内容直接通过socket发送到从节点,从节点将接受到内容存储到磁盘文件,在进行一次性加载。
更变态的方式
  • Redis的主从复制是异步,我们可以通过wait指令,让异步变同步,确保强一致性。如下
新docker-redis:0>wait 1 10
"0"
  • wait命令提供两个参数,第一个需要同步的从节点数量N,第二个时间T,毫秒为单位,如下含义
    • wait指令之前的所有操作同步到N个节点,最多等待时间t,如果t=0,表示无线等待直到完成。
    • 如果出现网络分区,wait第二个参数时间t=0,主从同步无法继续进行,wati指令永远阻塞,Redis丧失可用性。

上一篇:Redis存储优化–小对象压缩

下一篇:Redis服务信息–Info指令

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/310501.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

.NET 下基于动态代理的 AOP 框架实现揭秘

.NET 下基于动态代理的 AOP 框架实现揭秘Intro之前基于 Roslyn 实现了一个简单的条件解析引擎,想了解的可以看这篇文章 基于 Roslyn 实现一个简单的条件解析引擎执行过程中会根据条件的不同会在运行时创建一个类,每一次创建都会生成一个新的程序集&#…

C++实现链式基数排序

代码如下: #include <iostream> #include <cmath> using namespace std; typedef int KeyType; const int END -1; const int Radix 10;typedef struct Node {KeyType key;struct Node *next; };Node *CreateList() {KeyType x;Node *q nullptr;cin >> x…

Blazor WebAssembly 3.2.0 Preview 4 如期发布

ASP.NET团队如期3.16在官方博客发布了 Blazor WebAssembly 3.2.0 Preview 4&#xff1a;https://devblogs.microsoft.com/aspnet/blazor-webassembly-3-2-0-preview-4-release-now-available/ &#xff0c;同时在twitter上发了一条信息带上了下面这张图&#xff0c;这张图很形象…

C#/.Net Core/WPF框架初建(国际化、主题色)

English | 简体中文作为 TerminalMACS 的一个子进程模块 - WPF管理端&#xff0c;目前搭建框架部分功能&#xff1a;本地化、国际化、主题色修改等。导航目录1.框架已添加功能说明1.1. 国际化、本地化1.2. Metro风格主窗体1.3. 动态更换主题色2.关于TerminalMACS及本WPF管理端 …

Redis底层实现--字符串

Redis字符串存储实现原理 Redis 中的字符串是可以修改的字符串&#xff0c;在内存中他是以字节数组的形式存在的。我们在入门语言C语言里面的字符串标准形式是以NULL&#xff08;即0x\0&#xff09;作为结束符&#xff0c;但是Redis里面&#xff0c;字符串表示方法不是这样&am…

[C++STL]C++实现string容器

代码如下: #pragma once #define _CRT_SECURE_NO_WARNINGS #include <iostream> #include <assert.h> #include <cstring> using namespace std;class String { public:String(const char *str ""){assert(str ! nullptr);_size strlen(str);_s…

ASP.NET Core 日志框架:Serilog

在 ASP.NET Core 日志模型 中对日志整体实现方式进行了介绍&#xff0c;通过使用内置日志记录器来实现日志的输出路径。而在实际项目开发中&#xff0c;使用第三方日志框架来记录日志也是非常多的&#xff0c;首先一般基础的内置日志记录器在第三方日志框架中都有实现&#xff…

[C++STL]C++实现vector容器

代码如下: #pragma once #include <iostream> #include <assert.h> using namespace std;template<typename T> class Vector { public:typedef T* iterator;typedef const T* const_iterator;Vector() :_start(nullptr), _finish(nullptr), _endOfStorage(…

数据结构与算法--简单栈实现及其应用

栈 栈&#xff08;Stack&#xff09;是一种限制插入和删除只能在一个位置上进行的表&#xff0c;改位置是表的末端&#xff0c;叫做栈顶top。栈的基本操作有push &#xff08;进栈&#xff09;pop&#xff08;出栈&#xff09;栈又叫做LIFO&#xff08;后进先出&#xff09;表…

树莓派销量突然猛增

树莓派基金会负责人 Eben Upton 近日在推特上公布&#xff0c;树莓派在三月份的销量达到 640,000 套&#xff0c;三月也成为有史以来销售量第二高的时期。Eben 认为&#xff0c;这大概是由于受 COVID-19 冠状病毒肺炎影响&#xff0c;在居家隔离期间&#xff0c;树莓派能够以低…

[C++STL]C++实现list容器

代码如下&#xff1a; #pragma once #include <iostream> using namespace std;template<typename T> struct ListNode {T _data;ListNode<T> *_next;ListNode<T> *_prev;ListNode(const T & val T()) :_data(val), _next(nullptr), _prev(nullp…

Java动态追踪技术--BTrace

Java动态追踪技术 需求翻译官的日常工作不是在的改bug&#xff0c;发布代码&#xff0c;就是在加日志查找bug的路上。查BUG的过程是痛苦的&#xff0c;我们总是在不停的看代码&#xff0c;修改代码&#xff0c;添加日志&#xff0c;从而帮助我们发现问题&#xff0c;这种形式是…

C#黔驴技巧之实现统计结果排名

本节是实现统计排名的一点技巧&#xff0c;可能有一部分童鞋在实现排名统计绕了一大圈&#xff0c;最后还不如两行代码就搞定&#xff0c;代码清晰而可读性强&#xff0c;接下来我们来一起来看看。我们知道在SQL Server中可以利用Row_Number、Rank等函数进行排名&#xff0c;在…

数据结构与算法--二叉树实现原理

二叉树 二叉树&#xff08;binary tree&#xff09;是一棵树&#xff0c;其中每个节点都不能有多于两个的子节点二叉树的一个性质是一颗平均二叉树的深度要比节点个数N小得多&#xff08;重点&#xff09;&#xff0c;对二叉树的分析得出其平均深度为O(N\sqrt NN​)&#xff0…

[C++STL]C++实现stack容器适配器

代码如下: #include <iostream> #include <deque> using namespace std;template<typename T,typename Con deque<T>> class Stack { public:Stack() {}void Push(const T &x) {_c.push_back(x);}void Pop(){_c.pop_back();}T & Top(){retur…

Istio Pilot架构解析

本文节选自 ServiceMesher 社区联合编写的《Istio Handbook——Istio 服务网格进阶实战》。本书地址&#xff1a;https://github.com/servicemesher/istio-handbook/在应用从单体架构向微服务架构演进的过程中&#xff0c;微服务之间的服务发现、负载均衡、熔断、限流等服务治理…

数据结构与算法--二叉查找树实现原理

二叉查找树 二叉树的一个重要应用就是他在查询中的使用&#xff0c;假设书中每个节点存储一项数据。在我们的案例中&#xff0c;任意复杂的项在java中都容易处理&#xff0c;但为了简单还是假设都是整数。还假设他们都是不重复的整数&#xff0c;使二叉树称为二叉查找树的性质…

[C++STL]C++实现queue容器适配器

代码如下: #include <iostream> #include <deque>using namespace std;template<typename T,typename Con deque<T>> class Queue { public:Queue(){}void Push(const T & x){_c.push_back(x);}void Pop(){_c.pop_front();}T &Back(){return…

当模板方法遇到了委托函数,你的代码又可以精简了

现如今当你翻看一些开源项目源码的时候&#xff0c;你会发现现在到处充斥着委托函数&#xff0c;如Func,Action,Predicate&#xff0c;确实现在的C#在函数式编程 的路上越来越成为主流&#xff0c;越来越显示威力&#xff0c;曾经的一些经典设计模式写法&#xff0c;在函数式下…

数据结构与算法--面试必问AVL树原理及实现

数据结构与算法–AVL树原理及实现 AVL&#xff08;Adelson-Velskii 和landis&#xff09;树是带有平衡条件的二叉查找树&#xff0c;这个平衡条件必须容易实现&#xff0c;并且保证树的深度必须是O(logN)。因此我们让一棵AVL树中每个节点的左子树和右子树的高度最多相差1&…