这可能是史上最全 Redis 高可用解决方案总结

转载自  这可能是史上最全 Redis 高可用解决方案总结

本文主要针对 Redis 常见的几种使用方式及其优缺点展开分析。

一、常见使用方式

Redis 的几种常见使用方式包括:

  1. Redis 单副本;

  2. Redis 多副本(主从);

  3. Redis Sentinel(哨兵);

  4. Redis Cluster;

  5. Redis 自研。

 

二、各种使用方式的优缺点

1、Redis 单副本

Redis 单副本,采用单个 Redis 节点部署架构,没有备用节点实时同步数据,不提供数据持久化和备份策略,适用于数据可靠性要求不高的纯缓存业务场景。

 

 优点:

架构简单,部署方便;

高性价比:缓存使用时无需备用节点(单实例可用性可以用 supervisor 或 crontab 保证),当然为了满足业务的高可用性,也可以牺牲一个备用节点,但同时刻只有一个实例对外提供服务;

高性能。

 缺点:

不保证数据的可靠性;

在缓存使用,进程重启后,数据丢失,即使有备用的节点解决高可用性,但是仍然不能解决缓存预热问题,因此不适用于数据可靠性要求高的业务;

高性能受限于单核 CPU 的处理能力(Redis 是单线程机制),CPU 为主要瓶颈,所以适合操作命令简单,排序、计算较少的场景。也可以考虑用 Memcached 替代。

2、Redis 多副本(主从)

Redis 多副本,采用主从(replication)部署结构,相较于单副本而言最大的特点就是主从实例间数据实时同步,并且提供数据持久化和备份策略。主从实例部署在不同的物理服务器上,根据公司的基础环境配置,可以实现同时对外提供服务和读写分离策略。

 

 优点:

高可靠性:一方面,采用双机主备架构,能够在主库出现故障时自动进行主备切换,从库提升为主库提供服务,保证服务平稳运行;另一方面,开启数据持久化功能和配置合理的备份策略,能有效的解决数据误操作和数据异常丢失的问题;

读写分离策略:从节点可以扩展主库节点的读能力,有效应对大并发量的读操作。

 缺点:

故障恢复复杂,如果没有 RedisHA 系统(需要开发),当主库节点出现故障时,需要手动将一个从节点晋升为主节点,同时需要通知业务方变更配置,并且需要让其它从库节点去复制新主库节点,整个过程需要人为干预,比较繁琐;

主库的写能力受到单机的限制,可以考虑分片;

主库的存储能力受到单机的限制,可以考虑 Pika;

原生复制的弊端在早期的版本中也会比较突出,如:Redis 复制中断后,Slave 会发起 psync,此时如果同步不成功,则会进行全量同步,主库执行全量备份的同时可能会造成毫秒或秒级的卡顿;又由于 COW 机制,导致极端情况下的主库内存溢出,程序异常退出或宕机;主库节点生成备份文件导致服务器磁盘 IO 和 CPU(压缩)资源消耗;发送数 GB 大小的备份文件导致服务器出口带宽暴增,阻塞请求,建议升级到最新版本。

3、Redis Sentinel(哨兵)

Redis Sentinel 是社区版本推出的原生高可用解决方案,其部署架构主要包括两部分:Redis Sentinel 集群和 Redis 数据集群。

其中 Redis Sentinel 集群是由若干 Sentinel 节点组成的分布式集群,可以实现故障发现、故障自动转移、配置中心和客户端通知。Redis Sentinel 的节点数量要满足 2n+1(n>=1)的奇数个。

 

 

 优点:

Redis Sentinel 集群部署简单;

能够解决 Redis 主从模式下的高可用切换问题;

很方便实现 Redis 数据节点的线形扩展,轻松突破 Redis 自身单线程瓶颈,可极大满足 Redis 大容量或高性能的业务需求;

可以实现一套 Sentinel 监控一组 Redis 数据节点或多组数据节点。

 缺点:

部署相对 Redis 主从模式要复杂一些,原理理解更繁琐;

资源浪费,Redis 数据节点中 slave 节点作为备份节点不提供服务;

Redis Sentinel 主要是针对 Redis 数据节点中的主节点的高可用切换,对 Redis 的数据节点做失败判定分为主观下线和客观下线两种,对于 Redis 的从节点有对节点做主观下线操作,并不执行故障转移。

不能解决读写分离问题,实现起来相对复杂。

 建议:

如果监控同一业务,可以选择一套 Sentinel 集群监控多组 Redis 数据节点的方案,反之选择一套 Sentinel 监控一组 Redis 数据节点的方案。

sentinel monitor配置中的建议设置成 Sentinel 节点的一半加 1,当 Sentinel 部署在多个 IDC 的时候,单个 IDC 部署的 Sentinel 数量不建议超过(Sentinel 数量 – quorum)。

合理设置参数,防止误切,控制切换灵敏度控制:

a. quorum

b. down-after-milliseconds 30000

c. failover-timeout 180000

d. maxclient

e. timeout

部署的各个节点服务器时间尽量要同步,否则日志的时序性会混乱。

Redis 建议使用 pipeline 和 multi-keys 操作,减少 RTT 次数,提高请求效率。

自行搞定配置中心(zookeeper),方便客户端对实例的链接访问。

 

4、Redis Cluster

Redis Cluster 是社区版推出的 Redis 分布式集群解决方案,主要解决 Redis 分布式方面的需求,比如,当遇到单机内存,并发和流量等瓶颈的时候,Redis Cluster 能起到很好的负载均衡的目的。

Redis Cluster 集群节点最小配置 6 个节点以上(3 主 3 从),其中主节点提供读写操作,从节点作为备用节点,不提供请求,只作为故障转移使用。

Redis Cluster 采用虚拟槽分区,所有的键根据哈希函数映射到 0~16383 个整数槽内,每个节点负责维护一部分槽以及槽所印映射的键值数据。

 

 优点:

无中心架构;

数据按照 slot 存储分布在多个节点,节点间数据共享,可动态调整数据分布;

可扩展性:可线性扩展到 1000 多个节点,节点可动态添加或删除;

高可用性:部分节点不可用时,集群仍可用。通过增加 Slave 做 standby 数据副本,能够实现故障自动 failover,节点之间通过 gossip 协议交换状态信息,用投票机制完成 Slave 到 Master 的角色提升;

降低运维成本,提高系统的扩展性和可用性。

 缺点:

Client 实现复杂,驱动要求实现 Smart Client,缓存 slots mapping 信息并及时更新,提高了开发难度,客户端的不成熟影响业务的稳定性。目前仅 JedisCluster 相对成熟,异常处理部分还不完善,比如常见的“max redirect exception”。

节点会因为某些原因发生阻塞(阻塞时间大于 clutser-node-timeout),被判断下线,这种 failover 是没有必要的。

数据通过异步复制,不保证数据的强一致性。

多个业务使用同一套集群时,无法根据统计区分冷热数据,资源隔离性较差,容易出现相互影响的情况。

Slave 在集群中充当“冷备”,不能缓解读压力,当然可以通过 SDK 的合理设计来提高 Slave 资源的利用率。

Key 批量操作限制,如使用 mset、mget 目前只支持具有相同 slot 值的 Key 执行批量操作。对于映射为不同 slot 值的 Key 由于 Keys 不支持跨 slot 查询,所以执行 mset、mget、sunion 等操作支持不友好。

Key 事务操作支持有限,只支持多 key 在同一节点上的事务操作,当多个 Key 分布于不同的节点上时无法使用事务功能。

Key 作为数据分区的最小粒度,不能将一个很大的键值对象如 hash、list 等映射到不同的节点。

不支持多数据库空间,单机下的 redis 可以支持到 16 个数据库,集群模式下只能使用 1 个数据库空间,即 db 0。

复制结构只支持一层,从节点只能复制主节点,不支持嵌套树状复制结构。

避免产生 hot-key,导致主库节点成为系统的短板。

避免产生 big-key,导致网卡撑爆、慢查询等。

重试时间应该大于 cluster-node-time 时间。

Redis Cluster 不建议使用 pipeline 和 multi-keys 操作,减少 max redirect 产生的场景。

5、Redis 自研

Redis 自研的高可用解决方案,主要体现在配置中心、故障探测和 failover 的处理机制上,通常需要根据企业业务的实际线上环境来定制化。

 

 

 优点:

高可靠性、高可用性;

自主可控性高;

贴切业务实际需求,可缩性好,兼容性好。

 缺点:

实现复杂,开发成本高;

需要建立配套的周边设施,如监控,域名服务,存储元数据信息的数据库等;

维护成本高。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/325755.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ubuntu下inotifywait实现目录、文件监控【包含子目录】

inotifywait命令 【命令格式】: inotifywait [ options ] file1 [ file2 ] [ file3 ] [ … ] 【命令原意】: inote file system wait 【命令路径】: 【命令功能】: 等待所监听的文件系统触发操作事件 【执行权限】: root 【命令描述】: 众所周知,Linux 桌面系统与 …

JS向对象中添加和删除属性

向对象中添加属性 语法: 对象.属性名 属性值; 对象[“属性名”] 属性值; //这种方式能够使用特殊的属性名 对象的属性名没有任何要求,不需要遵守标识符的规范,但是在开发中,尽量按照标识符的要求去写。 属性值也可以任意的数据…

规模化微服务——《微服务设计》读书笔记

改变思维的角度:故障无处不在 当微服务规模化后,故障是无可避免的,以往我们总是想尽力避免故障的发生,而当故障实际发生时,我们往往束手无策。我们花了很多时间在流程设计和应用设计的层面上来阻止故障的发生&#xff…

oracle基础

一、Oracle简介: 1.版本:8i/9i-10g/11g(目前我们使用的是11g) 二、数据库: 1.在物理上表现为数据文件、日志文件和控制文件等。 2.在逻辑上以表空间的形式存在 3.首先需要创建数据库才能使用oracle 三、数据库实例: 每个启动的数据…

一个致命的 Redis 命令,导致公司损失 400 万

转载自 一个致命的 Redis 命令,导致公司损失 400 万 最近安全事故濒发啊,前几天发生了《顺丰高级运维工程师的删库事件》,今天又看到了 PHP 工程师在线执行了 Redis 危险命令导致某公司损失 400 万。。 什么样的 Redis 命令会有如此威力&a…

JS中的基本和引用类型传递的比较

<!DOCTYPE html> <html><head><meta charset"UTF-8"><title></title><script type"text/javascript">/** 基本数据类型* String Number Boolean Null Undefined* * 引用数据类型* Object* * JS中的变量都是保…

oracle应用

一、使用jdbc连接oracle数据库&#xff1a; 1.将ojdbc6.jar放在lib中 2.将ojdbc6.jar右击–》build path–>add build path 3.加载驱动&#xff1a; Class.forName(“oracle.jdbc.driver.OracleDriver”); 4.建立连接: Connection conn DriverManage.getconnection(“jdbc:…

./NISwGSP: error while loading shared libraries: libopencv_stitching.so.3.0: cannot open shared obje

error while loading shared libraries: libopencv_highgui.so.3.0: cannot open shared object file: No such file or directory 找不到需要的库。 locate libopencv_imgcodecs.so.3.0 查找这个库的所在目录&#xff0c;发现在/usr/local/opencv-3.0.0/目录下 在/etc/ld.s…

如何在 ASP.NET Core 中发送邮件

前言 我们知道目前 .NET Core 还不支持 SMTP 协议&#xff0c;当我么在使用到发送邮件功能的时候&#xff0c;需要借助于一些第三方组件来达到目的&#xff0c;今天给大家介绍两款开源的邮件发送组件&#xff0c;它们分别是 MailKit 和 FluentEmail &#xff0c; 下面我对它们…

一文搞懂 Java 线程中断

转载自 一文搞懂 Java 线程中断 在之前的一文《如何"优雅"地终止一个线程》中详细说明了 stop 终止线程的坏处及如何优雅地终止线程&#xff0c;那么还有别的可以终止线程的方法吗&#xff1f;答案是肯定的&#xff0c;它就是我们今天要分享的——线程中断。 下面…

JS对象的属性名规则

/* * 使用对象字面量&#xff0c;可以在创建对象时&#xff0c;直接指定对象中的属性 * 语法&#xff1a;{属性名:属性值,属性名:属性值…} * 对象字面量的属性名可以加引号也可以不加&#xff0c;建议不加, * 如果要使用一些特殊的名字&#xff0c;则必须加引号 * * 属性名和属…

shell文本处理工具grep

shell脚本之grep工具 grep是 行 过滤工具&#xff1b;用于根据关键字进行行过滤。语法和选项 语法&#xff1a; #grep [选项] ‘关键字’ 文件名 常见选项 OPTIONS -i &#xff1a;不区分大小写 -v &#xff1a;查找不包含指定内容的行&#xff0c;反向选择 -w&#xff1a…

数据访问层

一、持久化&#xff1a; 1.概念&#xff1a;将程序中的数据在瞬时状态和持久状态之间的转换机制。 二、持久化实现的方式&#xff1a; 1.数据库 2.普通文件 3.XML文件 三、持久化的操作&#xff1a; 添加 修改 删除 查找 读取 四、Dao&#xff1a; 实现对持久化数据的访问。 五…

.NET的一点历史故事:招兵买马和聚义山林

曾几何时&#xff0c;Java 的兴起得益于众多大公司的涌入&#xff0c;Sun、IBM、SGI、网景、甲骨文、Borland 都在第一时间关注并投入大量资源来推动它的发展。比较典型的例子就是 IBM 做了自己的 Java SDK&#xff0c;并且做出了 SWT 界面框架&#xff0c;后面又开源了自己的 …

教你用 3 台机器搞定一个 Redis 高可用架构

转载自 教你用 3 台机器搞定一个 Redis 高可用架构 基于内存的 Redis 应该是目前各种 Web 开发业务中最为常用的 key-value 数据库了。 我们经常在业务中用其存储用户登陆态&#xff08;Session 存储&#xff09;&#xff0c;加速一些热数据的查询&#xff08;相比较 MySQL…

调用函数的返回值和函数对象本身

<!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><title>Title</title> </head> <body> <script>function fun3() {function fun4() {alert("我是fun4");}//将fun4函数对象…

Mybatis主要内容

mybatis 框架 共四天 第一天 mybatis入门 mybatis的概述 mybatis的环境搭建 mybatis入门案例 自定义mybatis框架&#xff08;目的为了了解mybatis中执行细节&#xff09;。 第二天 mybatis基本使用 mybatis的单表crud操作 mybatis的参数和返回值 mybatis的dao编写 mybatis配置细…

使用java解析XML文件的步骤

以前的时候&#xff0c;也解析过&#xff0c;今天又拿出来解析就让忘记怎么解析了&#xff0c;后来在网上查还有自己想&#xff0c;终于解析出来了&#xff0c;下面就是原XML文件&#xff1a; accp.xml <?xml version"1.0" encoding"UTF-8"?> <…

世界上最大的搜索引擎公司 Google 宣布与 Elastic 达成战略合作协议

和大家的直觉反应比较不同&#xff0c;但谷歌&#xff0c;这家业界首屈一指的互联网搜索公司&#xff0c;要向她的云平台里加入新的搜索服务了。谷歌云平台一直向企业客户出租计算、存储和网络等服务&#xff0c;现在谷歌则要与Elastic公司合作&#xff0c;为谷歌云提供新的搜索…

sleep( ) 和 wait( ) 的这 5 个区别,你知道几个

转载自 sleep( ) 和 wait( ) 的这 5 个区别&#xff0c;你知道几个 sleep(休眠) 和 wait(等待) 方法是 Java 多线程中常用的两个方法&#xff0c;它们有什么区别及一些该注意的地方有哪些呢&#xff1f;下面给大家一一分解。 区别1&#xff1a;使用限制 使用 sleep 方法可以…