Jedis连接池究竟是何物?

一、前言

连接池的用途实际上有过开发经验的朋友都已经比较清楚了,当资源对象的创建/销毁比较耗时的场景下,可以通过"池化"技术,达到资源的复用,以此来减少系统的开销、增大系统吞吐量,比如数据库连接池、线程池、Redis 连接池等都是使用的该方式,而我们在开发场景中使用较为广泛的 Jedis 就是使用了 GenericObjectPool 作为它底层的连接池实现。

二、原理概述

图示

125.png

  • BorrowObject

业务模块通过 BorrowObject 方法从空闲连接队列中获取空闲连接,最长会等待 maxWaitMillis 毫秒,如果拿不到则走 Create。

  • ReturnObject

把连接重新放回到 IdleObjects 队列中。

类结构

458.png

Jedis里如何使用的

一般情况下我们在 Spring Boot 应用中会通过 Spring-Data-Redis 来使用 Redis,而在业务层会通过 RedisTemplate 来进行 Redis 的操作,但是 RedisTemplate 是怎么来的呢?可以看到当我们引入 Spring-Data-Redis 时,就会引入 RedisAutoConfiguration,这个 AutoConfiguration 定义了,当我们存在 Jedis 的配置时且不存在 RedisTempalte 的 Bean 实例时会自动创建 Bean,核心代码如下图。

781.png

而 RedisConnectionFactory 的其中一个实现就是 JedisConnectionFactory,其中就包含了 Pool。

670.png

而 Pool 本身内部就能看到我们真正的主角。

130.png

捋一下其中的关系,我们常用的 Spring-Data-Redis 的 Jedis 实现最终是通过以下的层级结构来使用 GenericObjectPool 的。

230.png

三、深入分析

参数说明

如上述类结构所示,GenericObjectPool 都是在 GenericObjectPoolConfig 或 BaseObjectPoolConfig 中进行配置相关参数的,其中核心参数以及默认值如下:

1340.png

上图对这些参数按颜色进行了一个归类:

1290.png

这里需要注意的是,虽然 GenericObjectPool 支持我们配的参数较多,但是 Spring-Data-Redis 将这部分参数收敛了,具体可供我们修改的只有表格上面的这部分内容,其他参数,有一部分在 JedisPoolConfig 类中,继承了 GenericObjectPoolConfig 进行了修改,比如 Spring-Data-Redis 就修改了以下参数的默认值。

testWhileIdle=true minEvictableIdleTimeMillis=60000 timeBetweenEvictionRunsMillis=30000 numTestsPerEvictionRun=-1

核心方法

本文只会针对方法的一些核心链路进行说明,如想知道更多细节,针对源码解析的可以在网上搜索其他相关文章或是到我的参考链接里进行翻看。

BorrowObject

  • 超时时间怎么用的?

该方法用于从连接池中获取一个空闲对象,它有可能是从空闲池中直接获取的,或是直接创建出来的,如果第一次从空闲对象中没有获取到,会走创建后重新获取,此时如果对象池目前配置的 BlockWhenExhausted=true,那么就会受 maxWaitMillis 参数所配置的超时时间所控制,如果超过了超时时间,都没拿到一个空闲的对象,则会直接抛出异常。

  • testOnBorrow 和 testOnCreate 的使用场景

当获取到一个对象后,由于对象池中往往存放的是诸如数据库连接、Redis 连接等创建时较为耗时的资源,但是因为连接本身是复用的,如果 MySQL/Redis Server 端如果因为某些原因断开/释放了该链接,那么此时拿到的对象就是个无效的对象,因此在 borrowObject 阶段会判定,如果:

testOnBorrow=true || (create && testOnCreate=true)

就会走到:

factory.validateObject

这里如何进行 validateObject 的,是由上层使用对象池的场景所决定的,比如在 Jedis 场景中,会向 Redis Server 发送一个 Ping 命令,如果 Server 返回了 Pong,则认为该连接仍然有效,可以给业务层使用。

但是!!!!!!

线上环境千万不要配置 testOnBorrow=true 或是 testOnCreate=true。

每个对象的获取都需要先校验再拿,会大大增加单次请求的 RT。

ReturnObject

  • testOnReturn 的使用场景

实际上 testOnReturn 的使用场景与上述 borrowObject 时的 testOnBorrow 是类似的,只是testOnReturn就是一个归还对象的操作。同理,线上千万不要配置 testOnReturn=true

  • 什么时候归还,什么时候销毁?

对象池中维护了一个结构为 LinkedBlockingDeque,名为 IdleObjects 的对象用于维护空闲对象队列,且是否归或销毁的判断逻辑如下:

final int maxIdleSave = getMaxIdle();
if (isClosed() || maxIdleSave > -1 && maxIdleSave <= idleObjects.size()) {...销毁对象
}else{...返还至idleObjects
}

如果:

对象池已经关闭(只要是程序在运行,且正常使用,不会关闭)

配置了 maxIdle 且空闲对象列表数量 >=maxIdle

则对象会被销毁,否则对象会重新回到 IdleObjects 中。

四、内部机制

Evict(定期驱逐/保活机制)

  • 周期怎么定?

当 timeBetweenEvictionRunsMillis 配置 >0 时,在 GenericObjectPool 所继承的基类中,会启一个周期性执行的线程,它的执行周期就是 timeBetweenEvictionRunsMillis 的值。

  • 为什么要驱逐?

当空闲对象过多,对于客户端或服务端的 TCP 连接维护来讲,本身就是一个开销,因此,需要有一个规则,当有一些对象实在太空闲了,就把它们踢掉。

  • 哪些对象应该被驱逐?

首先会从空闲对象列表中挑选出一部分对象,而这个挑选过程本身也有一个规则,它受 numTestsPerEvictionRun 参数控制。

当 numTestsPerEvictionRun>0,会挑选出 numTestsPerEvictionRun 数量的空闲连接进行检查。 当 numTestsPerEvictionRun<0 时,首先会对 numTestsPerEvictionRun 取绝对值,再然后挑选出空闲数量 /numTestsPerEvictionRun 绝对值的数量进行检查,举个例子,如果 numTestsPerEvictionRun=-2,就会挑选出一半进行检查。

  • 驱逐检查怎么做?

本身驱逐检查的实现方式是支持自定义的,也就是 evictionPolicy 参数,但是往往只会选择用默认的实现,也就是 DefaultEvictionPolicy,它的驱逐检查策略如下:

if ((config.getIdleSoftEvictTime() < underTest.getIdleTimeMillis() &&config.getMinIdle() < idleCount) ||config.getIdleEvictTime() < underTest.getIdleTimeMillis()) {return true;
}
return false;

underTest 为被检查对象,当存在以下场景时,满足驱逐检查规则,会触发驱逐。

underTest 的空闲时间 > softMinEvictableIdleTimeMillis 且当前空闲对象数量 > minIdle 或 underTest 的空闲时间 > minEvictableIdleTimeMillis。

Tips:有一些好奇的同学可能会问,对象的空闲时间是怎么算的? 池中的对象本身会维护一个 lastReturnTime 的时间戳,它会随着对象每一次 returnObject 时进行更新,当获取对象空闲时间时,只要它还是在空闲对象中,那么用当前时间戳 -lastReturnTime 就是认为该对象的空闲时间。

  • 驱逐与保活的关系是怎么样的?

由于前面提到过,不能配置 testOnBorrow 和 testOnReturn,那么如果 Server 端的链接直接断开了,怎么能保证池中对象的有效性呢?如果让调用端调用时再触发,会不会太晚了呢?这时候就有个参数 testWhileIdle,当此参数打开时,就代表会在对象空闲时进行对象可用性检查,具体代码如下:

if (evict) {destroy(underTest);destroyedByEvictorCount.incrementAndGet();
} else {if (testWhileIdle) {try {factory.activateObject(underTest);} catch (final Exception e) {destroy(underTest);destroyedByEvictorCount.incrementAndGet();}}
}

这里隐掉了一些相关的非核心逻辑,这里可以看到 testWhileIdle 的保活机制实际上和 evict 是配套使用的,如果被检查对象需要被驱逐,也就是 evict=true,则会直接 destory 对象,否则它会判定 testWhileIdle 的状态,此时如果 testWhileIdle=true,那么就会激活一下对象,具体激活的方式是由使用对象池的上层工厂所决定的。

Test(检查机制)

本身 GenericObjectPool 为了保证在池子中的对象有效性,会允许上层分别在几个节点进行对象的有效性检查,分别是:

testOnBorrow、testOnReturn、testOnCreate。

这几个基本看名字就知道是什么意思了,在前面讲 borrowObject 和 returnObject 的时候也有提到,还有一个相对比较特别的是:

testWhileIdle。

该参数目的是为了对象在空闲期间可以进行检查,而它的触发实际上是和 evict(定期驱逐机制)联合起来进行使用的。

Abandoned(抛弃机制)

实际上在提到配置参数、BorrowObject 时,还有一个机制,称之为 Abandoned,由于本文的契机是因为 Jedis 的问题分析所写,而 Jedis 连接池并不支持配置 Abandoned,所以本文暂不做解析,或者感兴趣的可以自己到上面讲的源码路径去看一下,本身这个机制的理解也不是特别复杂。

五、排障方式

本身 GenericObjectPool 默认会把自己的一些参数通过 JMX 的方式进行注册,那么我们可以通过 Jvisualvm 进行查看,或是通过 Arthas,输入如下命令:

mbean org.apache.commons.pool2:type=GenericObjectPool,name=pool-redisConnectionFactory

可以获取到对象池当前的一些属性,如下图:

12790.png

其中对于优化比较有用的就是 CreatedCount(创建对象的数量)、DestoryedCount(对象销毁的对象)、DestoryedByEvictorCount(因为驱逐机制而被销毁的对象数量)。

六、总结

上述文章以 Jedis 为引,分析了 GenericObjectPool 连接池的底层原理以及 Jedis 是如何使用该连接池的,并且结合了 Arthas 分享了一个简单的排障方式,实际上如果知道了 GenericObjectPool 连接池的原理,其他连接池也是大同小异,本文希望抛砖引玉,带大家对于连接池的底层实现有个基本概念,相信以后遇到此类问题也会有分析的思路,不再迷茫~

*文/will

本文属得物技术原创,更多精彩文章请看:得物技术官网

未经得物技术许可严禁转载,否则依法追究法律责任!​​​​​​​

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/658038.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

雍禾植发:“地球生发计划”修复荒漠化土地超百万平方米

日前&#xff0c;雍禾植发宣布“毛发森林•地球生发计划”从正式发起到2023年11月19日秋季造林结束&#xff0c;已经在内蒙古自治区额济纳旗东风镇额很查干嘎查种下60000棵树&#xff0c;修复荒漠化土地超过102.01万平方米。 作为此次公益活动的“落脚地”,额济纳旗地处内蒙古…

Swift Vapor 教程(项目创建)

The future of web development. 在初次接触 Swift Vapor 时&#xff0c;感觉代码比较清爽&#xff0c;用起来逻辑比较清晰。 困难点&#xff1a; Swift Vapor 使用了JWT管理三方库&#xff0c;比较吃网络Swift Vapor 搭建环境比较复杂初次使用Swift Vapor 尽量不要使用MySql。…

Linux内存常用命令指标详解

1. free rootnode02:~# free -m total used free shared buff/cache available Mem: 3919 1194 1738 1 986 2446 Swap: 0 0 0free 输出的是一个表格&#xff0c;其中…

网页版idea、pycharm搭建

官网教程提供了两种方法&#xff1a;1、有给应用版idea或pycharm安装插件来开放网页服务&#xff1b;2、使用docker创建容器开放网页服务。这边推荐并介绍第二种步骤。 基本过程为&#xff1a;拉取相关镜像&#xff1b;开启服务&#xff1b;使用网页版 &#xff08;细节和注意点…

3D数据转换器HOOPS Exchange如何获取模型的几何数据? 干货预警!

一、概述 前面讲解过模型在内存中的结构&#xff0c;现在回顾一下&#xff0c;当模型导入成功后&#xff0c;整个模型数据会以原生结构的 PRC 组装树形式存放到内存中。&#xff08;申请 HOOPS Exchange 试用&#xff09; PRC结构的主要类型包含四种&#xff0c;分别是…

Qt 调用系统键盘

Wow64DisableWow64FsRedirection(&pvoid) 函数用于禁用 32 位 Windows 程序对文件系统重定向的支持。它将禁用文件系统重定向&#xff0c;以便在运行 32 位应用程序时&#xff0c;可以访问 64 位系统目录。pvoid 是一个指向先前启用的文件系统重定向状态的指针。 构建了要…

(2)(2.10) LTM telemetry

文章目录 前言 1 协议概述 2 配置 3 带FPV视频发射器的使用示例 4 使用TCM3105的FSK调制解调器示例 前言 轻量级 TeleMetry 协议 (LTM) 是一种单向通信协议&#xff08;从飞行器下行的数据链路&#xff09;&#xff0c;可让你以低带宽/低波特率&#xff08;通常为 2400 波…

ElasticSearch 应用实践 笔记

概述 介绍 ES 是一个开源的高扩展的分布式全文搜索引擎&#xff0c;是整个Elastic Stack技术栈的核心。它可以近乎实时的存储&#xff0c;检索数据&#xff1b;本身扩展性很好&#xff0c;可以扩展到上百台服务器&#xff0c;处理PB级别的数据。ElasticSearch的底层是开源库Lu…

【Golang】ModbusRTU协议CRC16校验算法

CRC校验码是通过在数据后面附加一个短的校验序列来生成的&#xff0c;用于检测数据在传输过程中是否发生错误。CRC16是一种特定的CRC校验算法&#xff0c;它生成一个16位的校验码。 下面是使用Go语言实现CRC16校验算法的代码&#xff1a; package main import ("encoding…

npm安装下载修改镜像源

问题描述一 npm install 时&#xff0c;报错&#xff1a;npm ERR! network request to https://registry.npmjs.org/postcss-pxtorem failed, reason: connect ETIMEDOU&#xff0c;这是因为默认npm安装会请求国外的镜像源&#xff0c;导致下载缓慢容易断开请求下载失败的 np…

【正点原子STM32】IWDG 独立看门狗(简介、工作原理、IWDG寄存器配置操作步骤、IWDG溢出时间计算、IWDG配置步骤、独立看门狗流程)

一、IWDG简介 IWDG有什么作用&#xff1f; 二、IWDG工作原理 三、IWDG框图 四、IWDG寄存器 键寄存器&#xff08;IWDG_KR&#xff09;预分频器寄存器 (IWDG_PR)重装载寄存器(IWDG_RLR) 状态寄存器(IWDG_SR) 寄存器配置操作步骤 五、IWDG溢出时间计算 IWDG溢出时间计算公式…

【脑电信号处理与特征提取】P5-彭薇薇:脑电信号的预处理及数据分析要点

彭薇薇&#xff1a;脑电信号的预处理及数据分析要点 脑电 脑电是神经活动的测量方法&#xff0c;在不同位置测量有不同的方法。比如大脑皮层表面测量的是ECoG&#xff0c;在头皮测量的是EEG。除了EEG是无损的&#xff0c;其他都是有损的。 脑电信号采集系统 下面是完整的…

泰迪智能科技生成式人工智能(AIGC)实验室解决方案

AIGC&#xff08;Artificial Intelligence Generated Content&#xff0c;生成式人工智能&#xff09;是一种新的人工智能技术&#xff0c;指的是利用人工智能技术来生成内容。这种技术可以自动生成文本、图像、音频和视频等多种类型的内容&#xff0c;而且内容的质量较高&…

elasticsearch在ubuntu下的配置以及简单使用

参考资料 官方下载地址 ELK学习实验002&#xff1a;Elasticsearch介绍及单机安装 ElasticSearch (ES从入门到精通一篇就够了) 前言 警告&#xff1a;elasticsearch默认不允许使用root账号来运行的&#xff0c;所以&#xff0c;强烈建议一开始就创建一个账号例如&#xff1a;…

Java关于Excel文件的导入导出

人生如梦 荣华富贵 如木槿之花 朝荣夕逝 需求 导出&#xff1a; 能够将库表内的数据导出多个Excel表&#xff0c;并且生成一个压缩包&#xff0c;提供用户下载导入&#xff1a; 能够将一个压缩包内的多个Excel表解压&#xff0c;并获取表内的所有数据 FileUtils 工具类 publi…

【开发】长期项目与代码质量,对抗软件工程复杂度(设计、重构、规范)

【开发】长期项目与代码质量&#xff0c;对抗软件工程复杂度&#xff08;设计、重构、规范&#xff09; 文章目录 一、设计模式与设计原则二、历史债务与代码重构1、技术债务的来源2、重构—无奈之举3、工程一致性&#xff1a;有效控制技术债务积累的主要手段 一、设计模式与设…

基于ssm和微信小程序的健身房私教预约管理系统

文章目录 项目介绍主要功能截图&#xff1a;部分代码展示设计总结项目获取方式 &#x1f345; 作者主页&#xff1a;超级无敌暴龙战士塔塔开 &#x1f345; 简介&#xff1a;Java领域优质创作者&#x1f3c6;、 简历模板、学习资料、面试题库【关注我&#xff0c;都给你】 &…

Postman-接口测试教程

接口是软件开发中常用的概念&#xff0c;是软件生产过程中比较核心的任务。对于接口开发者&#xff0c;调试接口是一件较为繁琐的事情&#xff0c;很多时候需要线上线下来回切换。在这里&#xff0c;我就跟大家介绍一个只需要在本地就可以调试接口的方法&#xff0c;即使用post…

java大文件分片上传

1.效果图 2.前端html <!DOCTYPE html> <html> <head></head> <body> <form><input type"file" id"fileInput" multiple><button type"button" onclick"upload()" >大文件分片上传&l…

计算机网络_1.3电路交换、分组交换和报文交换

1.3电路交换、分组交换和报文交换 一、电路交换1、“电路交换”例子引入2、电路交换的三个阶段3、计算机之间的数据传送不适合采用电路交换 二、分组交换1、发送方&#xff08;1&#xff09;报文&#xff08;2&#xff09;分组&#xff08;3&#xff09;首部 2、交换节点3、接收…