动态切换数据源的最佳实践

序言

本文和大家聊聊在开发中,动态切换多数据源的方案。

一、多数据源需求

随着应用程序的发展和复杂性增加,对于多数据源的需求也变得越来越普遍。在某些场景下,一个应用程序可能需要连接和操作多个不同的数据库或数据源。常见的场景包括多租户系统、分布式架构、数据分片、读写分离以及数据同步和迁移等。在这些场景下,应用程序需要连接到多个数据源来满足不同的业务需求。

二、动态切换多数据源设计

在设计动态切换数据源的方案时,需要考虑以下几个方面:

  1. 数据源的管理和配置:如何管理和配置多个数据源,以便应用程序能够动态地切换数据源。
  2. 数据源的路由和选择:如何根据业务需求选择合适的数据源,并在运行时动态切换数据源。
  3. 数据源的连接池管理:如何有效地管理多个数据源的连接池,以提高系统的性能和资源利用率。

三、动态切换多数据源关键技术

实现动态切换数据源的关键技术包括:

  1. 使用 Spring 框架的 AbstractRoutingDataSource 实现动态数据源路由。
  2. 使用 AOP + 注解方式拦截数据源访问方法,并在运行时动态切换数据源。

四、动态切换多数据源核心原理

在 Spring 中提供了一个 AbstractRoutingDataSource 抽象类,用于实现动态路由到不同数据源的功能。它允许应用程序根据特定的规则在运行时选择使用哪个数据源,而不是在启动时就确定使用哪个数据源。

其原理如下:

workspace.png

  1. 开发人员将多个 DataSource(数据源)对象放入 AbstractRoutingDataSource 的 targetDataSources 成员变量中。其中,targetDataSources 是一个 Map<Object, Object> 集合,key 存放的是 DataSource 的名称,value 存放具体 DataSource 对象。
  2. 开发人员实现 AbstractRoutingDataSource#determineCurrentLookupKey() 方法,该方法返回 DataSource 的 key。
  3. AbstractRoutingDataSource 会根据 AbstractRoutingDataSource#determineCurrentLookupKey() 返回的 key 查找相应的 DataSource 对象,从而实现了动态指定数据源

五、实现方案

5.1 数据源管理和配置

首先,我们需要定义多数据源的配置方式以及管理方式。我们在 spring.datasource 的基础上,添加一个 multi 属性定义多数据源。其中,multi 下是数据源列表,具体格式如下:

spring:datasource:multi:- name: masterdriver-class-name: com.mysql.cj.jdbc.Driverurl: jdbc:mysql://192.168.56.101:3306/learnusername: rootpassword: 123456type: com.alibaba.druid.pool.DruidDataSource- name: slavedriver-class-name: com.mysql.cj.jdbc.Driverurl: jdbc:mysql://192.168.56.102:3306/testusername: rootpassword: 123456type: com.alibaba.druid.pool.DruidDataSource

读取自定义配置属性的配置类:

@ConfigurationProperties(prefix = "spring.datasource")
@Data
@NoArgsConstructor
@AllArgsConstructor
public class MultiDataSourceProperties {// DataSourceProperties 是 Spring 里面的private List<DataSourceProperties> multi;
}

5.2 数据源动态路由规则

实现动态路由切换数据源的关键是在 AbstractRoutingDataSource#determineCurrentLookupKey() 方法里,因为 AbstractRoutingDataSource 会根据其返回的 key 去查找相应的 DataSource。
workspace (1).png

我们可以将路由规则进行如下处理:

  1. determineCurrentLookupKey() 直接从 ThreadLocal 中获取 DataSource 的 key 返回
  2. 开发者动态更换 ThreadLocal 中的值,即可实现动态路由

定义 ThreadLocal 的操作对象(实现对 ThreadLocal 的操作):

public class DataSourceContextHolder {public static final ThreadLocal<String> DATASOURCE_CONTEXT_HOLDER = new ThreadLocal<>();// 放入 DataSource 的 keypublic static void setDataSourceContext(String dataSource) {DATASOURCE_CONTEXT_HOLDER.set(dataSource);}// 获取 DataSource 的 keypublic static String getDataSource() {return DATASOURCE_CONTEXT_HOLDER.get();}// 清除 DataSource 的 keypublic static void clear() {DATASOURCE_CONTEXT_HOLDER.remove();}
}

根据配置生成数据源,并实现路由规则:

@Configuration
@EnableConfigurationProperties({MultiDataSourceProperties.class})
public class DynamicDataSourceAutoConfigure {private final MultiDataSourceProperties multiDataSourceProperties;private final TreeMap<Object, Object> targetDataSources = new TreeMap<>();/*** 构造器注入** @param multiDataSourceProperties 数据源配置*/@Autowiredpublic DynamicDataSourceAutoConfigure(MultiDataSourceProperties multiDataSourceProperties) {this.multiDataSourceProperties = multiDataSourceProperties;}/*** 该方法根据数据源配置生成对应的 DataSource 对象** @param dataSourceProperties 数据源配置* @return DataSource*/private DataSource createDataSource(DataSourceProperties dataSourceProperties) {return DataSourceBuilder.create().driverClassName(dataSourceProperties.getDriverClassName()).url(dataSourceProperties.getUrl()).username(dataSourceProperties.getUsername()).password(dataSourceProperties.getPassword()).type(dataSourceProperties.getType()).build();}/**** 在实例化时根据配置动态的创建多个数据源*/@PostConstructpublic void init() {List<DataSourceProperties> dataSources = multiDataSourceProperties.getMulti();for (DataSourceProperties dataSourceProperties : dataSources) {// 创建数据源DataSource dataSource = createDataSource(dataSourceProperties);// 将数据源放入 targetDataSourcestargetDataSources.put(dataSourceProperties.getName(), dataSource);}}/*** 注入自定义的 AbstractRoutingDataSource,并实现路由规则** @return DataSource*/@Beanpublic DataSource dynamicDataSource() {AbstractRoutingDataSource dataSource = new AbstractRoutingDataSource() {@Overrideprotected Object determineCurrentLookupKey() {// 路由规则:直接从 ThreadLocal 获取 DataSource 的 keyreturn DataSourceContextHolder.getDataSource();}};// 设置默认数据源为配置文件的第一个数据源dataSource.setDefaultTargetDataSource(targetDataSources.firstEntry().getValue());// 配置数据源列表dataSource.setTargetDataSources(targetDataSources);return dataSource;}
}

5.3 动态切换数据源

之前,数据源的动态路由规则已经定义完成了。但是这个规则是依据 ThreadLocal 中值的动态变化完成的。如何动态设置 ThreadLocal 中的值就成了关键。动态设置 ThreadLocal 中的值其实并不难,为了使我们的开发更加方便,我们采用 AOP + 注解 的方式,从而实现声明式动态更改 ThreadLocal 中的值。

  1. 定义一个注解

    @Target({ElementType.TYPE, ElementType.METHOD})
    @Retention(RetentionPolicy.RUNTIME)
    @Documented
    public @interface DS {String value() default "";
    }
    
  2. 给该注解添加 AOP 处理逻辑

    @Aspect
    @Component
    public class DynamicDataSourceAspect {// 可在类和方法上检测该注解@Before("@annotation(dataSource) || @within(dataSource)")public void before(JoinPoint joinPoint, DS dataSource) {MethodSignature signature = (MethodSignature) joinPoint.getSignature();Method method = signature.getMethod();DS annotation = method.getAnnotation(DS.class);String value = annotation != null ? annotation.value() : dataSource.value();// 将注解中的值放入 ThreadLocal 中DataSourceContextHolder.setDataSourceContext(value);}@After("@annotation(dataSource) || @within(dataSource)")public void after(DS dataSource) {// 清除 ThreadLocal 中的值DataSourceContextHolder.clear();}
    }
    
  3. 使用方式

    @Service
    public class UserServiceImpl implements UserService {@Resourceprivate UserMapper userMapper;// 使用在方法上@DS("slave")@Overridepublic User getUser(int userId) {return userMapper.getUserById(userId);}
    }// 使用在类上
    @DS("slave")
    @Service
    public class UserServiceImpl implements UserService {@Resourceprivate UserMapper userMapper;@Overridepublic User getUser(int userId) {return userMapper.getUserById(userId);}
    }
    

至此,我们便完成了多数据源的动态切换。今后我们若有需要只需:

  1. 在配置文件中添加数据源配置
  2. 使用 @DS 注解就可以完成数据源的切换了。

六、FAQ

本文主要是提供动态切换数据源的核心思路,若大家有特殊开发需求可以自行借助搜索引擎或在评论区下大家一起讨论哦。(‾◡◝)

推荐阅读

  1. 缓存神器-JetCache
  2. Mybatis 缓存机制
  3. 为什么 MySQL 单表数据量最好别超过 2000w
  4. IoC 思想简单而深邃
  5. ThreadLocal

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/4985.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Qt QThreadPool线程池

1.简介 QThreadPool类管理一个QThread集合。 QThreadPool管理和重新设计单个QThread对象&#xff0c;以帮助降低使用线程的程序中的线程创建成本。每个Qt应用程序都有一个全局QThreadPool对象&#xff0c;可以通过调用globalInstance来访问该对象。 要使用其中一个QThreadPool…

深入浅出:ChatGPT的训练与优化之道

近年来&#xff0c;自然语言处理领域中出现了一种引人注目的模型——ChatGPT。这种基于GPT&#xff08;Generative Pretrained Transformer&#xff09;架构的模型&#xff0c;在多轮对话任务中展示了卓越的性能&#xff0c;使其能够产生人类水平的文本&#xff0c;并应用于各种…

深度学习入门(4)

神经网络的构建 import numpy as np import matplotlib.pyplot as plt def sigmoid(x):return 1/(1np.exp(-x)) def identity_function(x):#恒等函数return x def init_network():#进行权重和偏置的初始化&#xff0c;并保存到字典中network{}network[W1]np.array([[0.1,0.3,0…

UniApp 中的路由守卫与拦截器:守护应用的每一步

正文&#xff1a; 路由守卫和拦截器在前端开发中扮演着重要的角色&#xff0c;它们可以用来控制页面访问权限、全局请求拦截等。在 UniApp 中&#xff0c;路由守卫和拦截器同样具有强大的功能&#xff0c;能够保护应用的安全和稳定性。本文将深入探讨 UniApp 中的路由守卫和拦…

【ARM Cache 系列文章 12 – Cache Tag与 物理地址】

文章目录 Cache Tag 和 物理地址缓存的关键组成部分和功能Cache 与 MMUCache Tag 和 物理地址 在ARM架构中,缓存(Cache)的设计是提高数据访问效率的关键机制。每个缓存行(Cache Line)都有一个与之关联的标签(Tag),该标签记录了与该行相关联的外部存储器的物理地址。缓…

关于Android优化

Android优化是一个复杂且多方面的过程&#xff0c;涉及到应用程序的各个方面&#xff0c;包括性能、用户体验、安全性等。以下是对Android优化的详细阐述&#xff0c;包括优化策略、优化方法以及优化工具&#xff0c;并辅以具体的案例或示例。 优化策略 一、用户体验优化 用…

ezplot--Matlab学习

目录 一、代码 二、效果 ​编辑 三、ezplot讲解 四、如何自定义一个函数 一、代码 clc; clear; t0:32; x4(t) cos(2*pi*t/4).*sin(2*pi*t/4); x8(t) cos(2*pi*t/8).*sin(2*pi*t/8); x16(t) cos(2*pi*t/16).*sin(2*pi*t/16); subplot(3,1,1) ezplot(x4,[0,32]); subplot…

POCEXP编写—多线程

POC&EXP编写—多线程 1. 前言2. 多进程&多线程2.1. 多进程2.1.1. 案例 2.2. 多线程2.2.1. 案例&#xff1a; 2.3. POC的案例&#xff08;模板&#xff09; 3. UA头设置3.1. 随机UA头3.1.1. 案例3.1.2. 模板拼接 4. 代理Proxy4.1. 单代理案例4.2. 多代理案例4.2.1. 请求…

【AI心理咨询应用】继Woebot之后,国内诞生的“LLM+CBT”应用:白小喵

导言 AI认知行为疗法&#xff08;Cognitive Behavioral Therapy&#xff0c;CBT&#xff09;早在2017年便有了首例&#xff0c;即美国知名CBT治疗机器人Woebot。 然而&#xff0c;Woebot在CBT的完整落地上仍有缺陷问题&#xff0c;LLM的出现促进了对该问题的解决&#xff0c;…

逻辑填空。

文章目录 句子与填空间的逻辑与搭配 并 符合 文意23省直&#xff1a;侧重搭配21省直&#xff1a;侧重搭配20省直&#xff1a;搭配辨析19/10省直19/8省直17省直词语辨析与搭配置若罔闻/熟视无睹横跨/跨越/横亘征程/征途激活/刺激监管/监督/管理曲径通幽/千回百转消散/淹没/消弭/…

【机器学习基础1】什么是机器学习、预测模型解决问题的步骤、机器学习的Python生态圈

文章目录 一. 什么是机器学习1. 概念2. 机器学习算法分类 二. 利用预测模型解决问题的步骤三. 机器学习的Python生态圈 一. 什么是机器学习 1. 概念 机器学习&#xff08;Machine Learning&#xff0c;ML&#xff09;是一门多领域的交叉学科&#xff0c;涉及概率论、统计学、…

设计模式学习笔记 - 项目实战三:设计实现一个支持自定义规则的灰度发布组件(设计)

概述 上篇文章&#xff0c;我们介绍了灰度组件的一个需求场景&#xff0c;将公共服务平台的 RPC 接口&#xff0c;灰度替换为新的 RESTful 接口&#xff0c;通过灰度逐步放量&#xff0c;支持快速回滚等手段&#xff0c;来规避代码质量问题带来的不确定性风险。 跟前面两个框…

服务器数据恢复—Storwize V3700存储数据恢复案例

服务器存储数据恢复环境&#xff1a; 某品牌Storwize V3700存储&#xff0c;10块硬盘组建了2组Mdisk加入到一个存储池中&#xff0c;一共创建了1个通用卷来存放数据&#xff0c;主要数据为oracle数据库。 服务器存储故障&#xff1a; 其中一组Mdisk中两块磁盘出现故障离线&…

【每日刷题】Day28

【每日刷题】Day28 &#x1f955;个人主页&#xff1a;开敲&#x1f349; &#x1f525;所属专栏&#xff1a;每日刷题&#x1f34d; &#x1f33c;文章目录&#x1f33c; ​ 1. 121. 买卖股票的最佳时机 - 力扣&#xff08;LeetCode&#xff09; 2. 205. 同构字符串 - 力扣…

解决python file.read()读取文件为空报错

问题描述 今天写的python脚本出现了file.read()读不到文件内容的问题&#xff0c;原脚本如下&#xff1a; with open(path,r) as f:znre.compile(rZN ZN)znallzn.findall(f.read())if len(znall) 1:list2.append(id)for i in list1:#print(f.read())if i in f.read():lis…

如何写得一手优雅规范的SpringBoot 接口?

导语 优雅的代码赏心悦目&#xff0c;你的代码触目惊心。 当编写 Spring Boot 接口时&#xff0c;优雅和规范是至关重要的。一个良好设计的接口能够提高代码的可读性、可维护性和可扩展性&#xff0c;从而为整个应用程序的开发和维护带来便利。 在本文中&#xff0c;我们将探讨…

关于discuz论坛网址优化的一些记录(网站地图sitemap提交)

最近网站刚上线&#xff0c;针对SEO做了些操作&#xff0c;为了方便网站网页百度被收录&#xff0c;特此记录下 discuz有免费的sitemap插件可以用&#xff0c;打开后台管理&#xff0c;找到插件栏&#xff0c;然后找到更多插件&#xff0c;进入插件市场。 选择这个免费的sitem…

【数据分析面试】34.填充NaN值 (Python:groupby/sort_value/ffill)

题目&#xff1a;填充NaN值 &#xff08;Python) 给定一个包含三列的DataFrame&#xff1a;client_id、ranking、value 编写一个函数&#xff0c;将value列中的NaN值用相同client_id的前一个非NaN值填充&#xff0c;按升序排列。 如果不存在前一个client_id&#xff0c;则返…

Linux详解:进程等待

文章目录 进程等待等待的必要性进程等待的方法waitwaitpid获取子进程status阻塞等待 与 非阻塞等待 进程等待 等待的必要性 子进程退出&#xff0c;父进程不进行回收的话&#xff0c;就可能造成僵尸进程&#xff0c;进而造成内存泄露 如果进程进入了僵尸状态&#xff0c;kill…

Tcp自连接

Tcp自连接 如果客户端和服务端都在同一个环境&#xff0c;并且客户端先于服务端启动&#xff0c;那么很有可能产生自连接的现象。 所谓自连接&#xff0c;就是tcp两端使用了同一个端口进行连接&#xff0c;即localhost:port->localhost:port。 实现自连接 下面提供一个例…