Redis核心技术与实战【学习笔记】 - 9.如何避免单线程模型的阻塞

概述

Redis 被广泛应用的原因是因为它支持高性能访问。所以,我们要重视所有可能影响 Redis 性能的因素(如命令操作、系统配置、关键机制、硬件配置等)。

影响 Redis 性能的 5 大方面的潜在因素分别是:

  • Redis 内部的阻塞式操作
  • CPU 核和 NUMA 架构的影响
  • Redis 关键系统配置
  • Redis 内存碎片
  • Redis 缓冲区

1. Redis 实例有哪些阻塞点?

Redis 实例要和许多对象进行交互,这些不同的交互就会涉及不同的操作,我们来看看客户端和 Redis 实例交互的对象,以及交互时会发送的操作。

  • 客户端:网络 IO,键值对增删改查操作,数据库操作
  • 磁盘: 生成 RDB 快照,记录 AOF 日志,AOF 日志重写。
  • 主从节点:主库生成、传输 RDB 文件,从库接收 RDB 文件、清空数据库、加载 RDB 文件;
  • 切片集群实例:向其他实例传输哈希槽信息,数据迁移。
    在这里插入图片描述

1.1 和客户端交互的阻塞点

网络 IO 有时候会比较慢,但是 Redis 使用了 IO 多路复用机制,避免了主线程一直处在等待网络连接或者请求到来的状态,所以网络 IO 不是导致 Redis 阻塞的因素。

键值对的增删改查操作是 Redis 和 客户端交互的主要部分,也是 Redis 主线程执行的主要任务。所以,复杂度高的增删改查操作会阻塞 Redis。

判断操作复杂度有一个最基本的标准,就是看操作的复杂度是否为 O(N).

Redis 中涉及集合的操作复杂度通常为 O(N),所以我们要重视起来。例如集合元素全量查询 HGETALL、SMEMBERS,以及集合的统计聚合操作,例如求交、并和差集。这些操作可以作为 Redis 的第一个阻塞点:集合的全量查询和聚合操作

另外,集合自身的删除操作,同样也有潜在的阻塞风险。这是因为删除不仅仅只是把数据删除,还要释放键值对占用的内存空间。

你可以不要小瞧内存释放的过程。释放内存只是第一步,为了高效管理内存空间,在应用程序释放时,操作系统需要把释放掉的内存块插入一个空间内存块的链表,以便后续进行管理和再分配。这个过程本身需要一定的时间,而且会阻塞当前释放内存的应用程序,所以,如果一下子释放了大量的内存,空闲内存块链表的操作时间就会增加,相应地就会造成 Redis 主线程的阻塞。

什么时候会释放大量内存呢? 其实就是在删除大量键值对数据的时候,最典型的就是删除了包含了大量元素的集合,也称为 bigkey 删除。下图是测试了不同元素数据的集合在进行删除操作时所消耗的时间:
在这里插入图片描述
根据压测,可以得出结论:

  1. 当数据量从10 万增加到 100 万时,4 大集合类型的删除时间的增长幅度从5倍上升到了近 20 倍。
  2. 集合元素越大,删除所花费的时间越长。
  3. 当删除有 100 个元素的集合时,最大删除时间已经达到了 1.9 秒(Hash 类型)。Redis 的响应时间一般在微妙级别,所以,一个操作达到近 2 秒,不可避免地会阻塞主线程。

很显然,Redis 的第二个阻塞点:bigkey 删除操作

删除操作对 Redis 实例性能的负面影响很大,而且在实际业务开发时很容易被忽略,所以移动要重视它

既然频繁你删除键值对都是潜在的阻塞点,那么,Redis 的数据库级别操作中,清空数据库(如 FLUSHDB 和 FLUSHALL 操作)必然也是一个潜在的阻塞风险,因为它设计到删除和释放所有的键值对。所以,Redis的第三个阻塞点:清空数据库

1.2 和磁盘交互时的阻塞点

磁盘 IO 一般都是比较耗时费力的,需要重点关注。不过,Redis 开发者早就认识到磁盘 IO 会带来阻塞,所以就把 Redis 设计为采用子进程的方式生成 RDB 快照文件,以及执行 AOF 日志重写操作。这样一来,这两个操作由子进程负责执行,慢速的磁盘 IO 就不会阻塞主线了。

但是,Redis 直接记录 AOF 日志时,会根据不同的写回策略对数据做落盘保存。一个 AOF 同步写磁盘的操作的耗时大约是 1~2 ms,如果有大量的写操作需要记录在 AOF 日志中,并同步写回的话,就会阻塞主线程了。这就是 Redis 的第四个阻塞点: AOF 日志荣同步写

1.3 主从节点交互时的阻塞点

主从集群中,主库需要生成 RDB 文件,并传输给从库。主库在复制过程中,创建和传输 RDB 文件都是由子进程来完成,不会阻塞主线程。但是对于从库来说,它在接收了 RDB 文件后,需要使用 LPUSHDB 命令清空当前数据库,这就正好是刚刚分析的第三个阻塞点

此外,从库在情况当前数据库后,还需要把 RDB 文件加载到内存,这个过程的快慢和 RDB 文件的大小密切相关, RDB 文件越大,加载过程越慢,所以 加载 RDB 文件就称为了 Redis 的第五个阻塞点

1.4 切片集群实例交互时的阻塞点

当我们部署 Redis 切片集群时,每个 Redis 实例上分配的哈希槽信息需要在不同实例间进行传输,同时,当需要进行负载均衡或者实例增删时,数据会在不同的实例间进行迁移。不过哈希槽信息量不大,而数据迁移是渐进式执行的,所以一般来说,这两类操作对 Redis 主线程的阻塞风险不大。

不过,如果你使用了 Redis Cluster 方案,而且同时正好迁移的是 bigkey 的话,就会造成主线程的阻塞,因为 Redis Cluster 使用了同步迁移。所以,你要知道,当没有 bigkey 时,切片集群的各实例在进行交互时不会阻塞主线程。

1.5 小结

好了,经过上面分析 Redis 的各种关键操作,总结下刚刚找到的阻塞点:

  • 集合全量查询和聚合操作
  • bigkey 删除
  • 清空数据库
  • AOF 日志同步写
  • 从库加载 RDB 文件

如果在主线程执行这些操作,必然会导致主线程的阻塞。为了避免阻塞式操作,Redis 提供了异步线程机制。所谓异步线程机制,就是指 Redis 会启动一些子线程,然后把一些任务交给这些子线程,让它们在后台完成,而不再由主线程来执行这些任务。使用异步线程机制执行操作,可以避免阻塞主线程。

不过,这个时候,问题来了:这五大阻塞式操作都可以被异步执行吗?

2.哪些阻塞点可以异步执行?

如果一个操作能被异步执行,就意味着它不是 Redis 主线程的关键路径上的操作。关键路径上的操作就是,客户端把请求发给 Redis 后,等着 Redis 返回数据结构的操作。

在这里插入图片描述

  • 主线程收到操作 1 后,因为操作 1 并不用给客户端返回具体数据,所以,主线程可以把它交给后台子线程来完成,同时只要给客户端返回一个 “OK” 结果就行。
  • 在子线程执行操作 1 的时候,客户端又向 Redis 实例发送了操作 2,而此时客户端需要使用操作 2 返回的数据结果的,如果操作 2 不返回结果,那么客户端将一直处于等待状态。

在这个例子中,操作 1 就不算关键路径上的操作,所以可以有后台子线程异步执行。而操作 2 需要把结果返回给客户端,它就是关键路径上的操作,所以主线程立即把这个操作执行完。

对于 Redis 来说,读操作是典型的关键路径操作,因为客户端发送了读操作之后,就会等待读取数据的返回。而 Redis 的第一个阻塞点 “集合全量查询和聚合操作” 都涉及到了读操作,所以它是不能进行异步操作了。

删除操作,并不需要给客户端返回具体的数据结果,所以不算关键路径操作。而我们刚才总结的 第二个阻塞点 “bigkey 删除”,和第三个阻塞点 “清空数据库” 都是对数据做删除,并不在关键路径上。因此可以使用后台子线程来异步执行删除操作

最后,我们看下“从库加载 RDB 文件”这个阻塞点。从库想要对客户端提供数据存取服务,就必须把 RDB 文件加载完成,所以,这个操作也属于关键路径上的操作,必须让从库的主线程来执行。

3.异步的子线程机制

Redis 主线程启动后,会使用操作系统提供的 pthread_create 函数创建 3 个子线程,分别由他们负责 AOF 日志写操作、键值对删除以及文件关闭的异步执行。

主线程通过一个链表形式的任务队列和子线程进行交互。当收到键值对删除和清空数据库的操作时,主线程会把这个操作封装成一个任务,放入任务队列中,然后给客户端返回一个完成信息,表明删除已经完成。

但实际上,这个时候删除还没执行,等到后台子线程从任务队列中读取数据,才实际删除键值对,并释放响应的内存空间。因为,我们把这种异步删除也称为惰性删除(lazy free)。此时,删除或清空操作不会阻塞主线程,这就避免了对主线程的性能影响。

和惰性删除类似,当 AOF 日志配置成 everysec 选项后,主线程会把 AOF 写日志操作封装成一个任务,也放到任务队列中。后台子线程读取任务后,开始自行写入 AOF 日志,这样主线程就不用一直等待 AOF 日志写完了。

下图展示了 Redis 中异步子线程执行机制。
在这里插入图片描述
不过,有个地方需要注意下,异步键值对删除和情况数据库操作是 Redis 4.0 后提供的功能,Redis 也提供了新的命令来执行这两个操作。

  • 异步键值对删除:当你的集合类型中有大量元素(如有百万级别或者千万级别元素)需要删除时,建议你使用 ULINK 命令
  • 清空数据库:可以在 FLUSHDB 和 FLUSHALL 命令后机上 AYSNC 选项,这样可以让后台子线程异步地清空数据库
FLUSHDB AYSNC
FLUSHALL AYSNC

4.小结

本章,我们学习了 Redis 实例允许时的 4 大类交互对象:客户端、磁盘、主从库实例、切片集群实例。基于这 4 大类交互对象,我们梳理了会导致 Redis 性能受损的 5 大阻塞点,包括集合全量查询和聚合操作、bigkey 删除、清空数据库、AOF 日志同步写,以及从库加载 RDB 文件。

在这 5 大阻塞点中,bigkey 删除、情况数据库、AOF 日志同步写不属于关键路径操作,可以使用异步子线程机制来完成。 Redis 在运行时会创建三个子线程,主线程会通过一个任务队列和三个子线程进行交互。子线程会根据任务的具体类型,来执行响应的异步操作。

不过 异步删除操作是 Redis 4.0 以后才有的功能,如果你使用的是 4.0 之前的版本,当你遇到 bigkey 删除时,给你个小建议先使用集合类型提供的 SCAN 命令读取数据,然后再次进行删除。因为 SCAN 命令可以每次只读取一部分数据并删除,这样可以避免一次性删除大量 key 给主线程带来阻塞。
例如,对于 Hash 类型的 bigkey 删除,你可以使用 HSCAN 命令,每次从 Hash 集合中获取一部分键值对(如 200 个),再使用 HDEL 删除这些键值对,这样就可以把删除压力分摊到多次操作中,那么,每次删除操作的耗时就不会太长,也就不会阻塞主线程了。

最后,集合全量查询和聚合操作、从库加载 RDB 文件是在关键路径上,无法使用异步操作来完成,对于这两个阻塞点的小建议:

  • 集合全量查询和聚合操作可以使用 SCAN 命令,分批读取数据,再在客户端进行聚合计算
  • 从库加载 RDB 文件把主库的数据量大小控制在 2~4GB 左右,以保证 RDB 文件能以较快的速度加载。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/659798.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

OpenAI、斯坦福大学提出Meta-Prompting,有效提升语言模型的性能

为了研究如何提高语言模型的性能,使其更充分有效地输出对于提问的回答,来自斯坦福和 OpenAI 的学者强强联手,通过提出一种名为元提示(meta-prompting)的方法来深入探索。元提示通过让单个语言模型(如 GPT-4…

2023.1.31 关于 Redis 分布式锁详解

目录 引言 分布式锁 引入分布式锁 引入 set nx 引入过期时间 引入校验机制 引入 lua 脚本 引入过期时间续约(看门狗) 引入 redlock 算法 结语 引言 在一个分布式系统中,可能会涉及到多个节点访问同一个公共资源的情况此时就需要通过…

代码随想录算法训练营第五十一天|714.买卖股票的最佳时机含手续费、309.最佳买卖股票时机含冷冻期、股票问题总结、最长上升子序列

题目&#xff1a;714.买卖股票的最佳时机含手续费 文章链接&#xff1a;代码随想录 视频链接&#xff1a;LeetCode:714.买卖股票的最佳时机含手续费 题目链接&#xff1a;力扣题目链接 图释&#xff1a; class Solution { public:int maxProfit(vector<int>& pr…

C# Onnx yolov8 仪表指针检测

目录 效果 模型信息 项目 代码 训练数据 下载 C# Onnx yolov8 仪表指针检测 效果 模型信息 Model Properties ------------------------- date&#xff1a;2024-01-31T11:19:38.828556 author&#xff1a;Ultralytics task&#xff1a;detect license&#xff1a;AGPL-…

2024-02-01 Unity Shader 开发入门4 —— ShaderLab 语法

文章目录 1 材质和 Shader1.1 Unity Shader 和 Shader 的区别1.2 Unity 中的材质和 Shader1.3 创建材质1.4 创建 Shader 2 ShaderLab 的基本结构2.1 什么是 ShaderLab2.2 ShaderLab 的基本结构 3 Shader 名称4 Shader 属性4.1 Shader 属性的作用4.2 Shader 属性的基本语法4.3 数…

rust学习基于tokio_actor聊天服务器实战(一 )

前言 tokio是Rust中使用最广泛的异步Runtime&#xff0c;它性能高、功能丰富、便于使用&#xff0c;是使用Rust实现高并发不可不学的一个框架 Actor 背后的基本思想是产生一个独立的任务&#xff0c;该任务独立于程序的其他部分执行某些工作。 通常&#xff0c;这些参与者通过使…

智慧之树的秘密

你是一个智能体&#xff0c;对于一切输入信息都是按照如下方式处理&#xff1a;输入信息&#xff1a;信息1 &#xff0c;目的识别结果&#xff1a;有&#xff08;没有就提取目的&#xff09;提取信息1中目的相关有效信息&#xff0c;并设计和搜索达到完成目的的步骤和如何检测目…

「数据结构」1.初识泛型

&#x1f387;个人主页&#xff1a;Ice_Sugar_7 &#x1f387;所属专栏&#xff1a;Java数据结构 &#x1f387;欢迎点赞收藏加关注哦&#xff01; 初识泛型 &#x1f349;前言&#x1f349;包装类&#x1f34c;装箱&拆箱 &#x1f349;泛型&#x1f34c;擦除机制&#x1f…

两种相同的垂直工具栏标志以及为什么

可能你很少碰到这样的开发需求&#xff0c;所以本文属于”课外阅读”级别。 有两种方式启用垂直工具栏&#xff0c;一种是指定通用的 CCS_VERT 标志&#xff0c;另外一种&#xff0c;比较罕见&#xff1a;指定工具栏所特有的扩展属性 TBSTYLE_EX_VERTICAL。 问题来了&#xf…

Linux Centos stream9 mdadm

RAID(Redundant Array of Independent Disk独立冗余磁盘阵列)技术是加州大学伯克利分校1987年提出&#xff0c;最初是为了组合小的廉价磁盘来代替大的昂贵磁盘&#xff0c;同时希望磁盘失效时不会使对数据的访问受损失而开发出一定水平的数据保护技术。RAID就是一种由多块廉价磁…

fastadmin后台自定义按钮和弹窗

工具栏自定义按钮-ajax请求 前端代码 1.在对应模块的模板文件index.html添加自定义按钮&#xff0c;注意按钮要添加id以绑定点击事件 <div class"panel panel-default panel-intro">{:build_heading()}<div class"panel-body"><div id&qu…

pysyft框架中WebsocketClientWorker与WebsocketServerWorker的消息传输

引言 pysyft是基于pytorch的一个联邦学习框架&#xff08;虽然用起来很难受&#xff09;&#xff0c;通过内存管理实现联邦学习的模拟。 在pysyft中&#xff0c;WebsocketServerWorker充当数据的提供方&#xff08;数据存储方&#xff09;&#xff0c;而WebsocketClientWorker…

专业的韩语导游翻译需要具备哪些能力

近年来&#xff0c;随着中韩关系的友好发展&#xff0c;两国之间的旅游交流呈现出爆发式的增长。这一趋势不仅深化了中韩民众之间的交流与理解&#xff0c;也对韩语导游翻译人才的需求产生了显著的影响。那么&#xff0c;为了做好韩语翻译工作&#xff0c;我们需要具备哪些专业…

页面通过Vue进行整体页面不同语言切换 i18n库

目录 引入 如何做到 下载i18n库 构建整体翻译文件结构 语言包文件 i18n配置文件 把i18n挂载到vue实例上 添加按钮点击事件切换语言 引入 我们现在有这样一个要求,我们想要对我们开发的网页进行国际化操作,也就是我们不仅要有中文,还要有英文等。用户可以随时进行不同语言…

代码随想录day16--二叉树的应用4

LeetCode513.找树左下角的值 题目描述&#xff1a; 给定一个二叉树的 根节点 root&#xff0c;请找出该二叉树的 最底层 最左边 节点的值。 假设二叉树中至少有一个节点。 示例 1: 输入: root [2,1,3] 输出: 1示例 2: 输入: [1,2,3,4,null,5,6,null,null,7] 输出: 7 解题思…

C++ //练习 3.21 请使用迭代器重做3.3.3节(第94页)的第一个练习。

C Primer&#xff08;第5版&#xff09; 练习 3.21 练习 3.21 请使用迭代器重做3.3.3节&#xff08;第94页&#xff09;的第一个练习。 环境&#xff1a;Linux Ubuntu&#xff08;云服务器&#xff09; 工具&#xff1a;vim 代码块 /*************************************…

【重磅】中国隐私计算平台市场,摩斯第一

摩斯市场份额遥遥领先 10月11日&#xff0c;全球领先的IT市场研究和咨询公司IDC发布了《中国隐私计算平台厂商市场份额&#xff0c;2022》报告。蚂蚁集团凭借商用隐私计算平台摩斯&#xff08;MORSE&#xff09;&#xff0c;以 36.9%的市场份额排名第一。…

Git系列---远程操作

&#x1f4d9; 作者简介 &#xff1a;RO-BERRY &#x1f4d7; 学习方向&#xff1a;致力于C、C、数据结构、TCP/IP、数据库等等一系列知识 &#x1f4d2; 日后方向 : 偏向于CPP开发以及大数据方向&#xff0c;欢迎各位关注&#xff0c;谢谢各位的支持 引用 1.理解分布式版本控制…

java+springboot校园体育场地预约预订使用系统vue+ssm

研究内容和研究方法 1.研究内容 网站主要包括管理员和用户两个部分&#xff0c;用户可以登录与注册自己的基本信息、查询哪些场地可以使用、提前预约场地、取消预约的场地、使用完场地后进行缴费。管理员可以审批用户的注册信息、对用户信息进行增删改查、查询场地的使用情况、…

JUnit

前言&#xff1a;自动化就是selenium脚本来实现的&#xff0c;JUnit是java的单元测试工具&#xff0c;只不过我们在实现自动化的时候需要借助一下JUnit库里面提供的一些方法。 1、Test Test &#xff1a;表示方法是测试方法&#xff0c;执行当前这个类的时候&#xff0c;会自动…