你需要什么样的资源隔离?丨TiDB 资源隔离最佳实践

导读

资源隔离是数据库性能优化的重要环节, TiDB 在当前版本已经实现了从数据级隔离到流控隔离的全面升级 ,无论是多系统共享集群、复杂负载隔离,还是小型系统整合和 SQL 精细化控制,TiDB 都提供了灵活且高效的解决方案。

本文以实际案例为切入点,详细解读了 Placement Rules in SQL、Resource Control 等关键功能,以及 7.2+ 版本新增的 Runaway Queries 管理机制, 帮助各位开发者和管理员选择最适合自己的 TiDB 资源隔离方案。


你需要什么样的隔离?

时至今日,TiDB 提供的隔离能力愈发完善,上到不同系统、下到 SQL 语句,均能实现良好的隔离效果。本文旨在帮助大家了解:你需要什么层面的资源隔离,以及各种层面隔离如何使用。

你需要什么层面的资源隔离

基于数据的隔离方案

中大型系统之间隔离

在提及资源隔离时,大家往往想到的是:多个系统共用一套集群,如何限制每个系统所用的资源。在之前版本中,TiDB 提供了基于 K8s 的 Cloud TiDB 方案,但企业 DBA 很少同时具备 K8s 和数据库两种技能;另外企业中 K8S 大部分也非原生,不一定满足 Cloud TiDB 的部署需求。

从 6.5 版本开始,TiDB 提供了 Placement Rules in SQL 功能,一种基于 SQL 规则的数据放置策略,可以轻松实现数据级别的物理隔离,使得多个系统共用一套 TiDB 集群时,满足物理层面隔离的需求。

典型场景:多系统共用集群并完全独占资源

多系统共用集群并完全独占资源

典型客户案例: TiDB x 云盛海宏丨加速精细化运营,云海零售系统的架构演进

示例: Placement Rules in SQL 规则(适合中大型系统)

create placement policy policy_order constraints="[+zone=order]"; 
create placement policy policy_inv constraints="[+zone=inventory]"; 
alter database retail_order placement policy policy_order;
alter database retail_inventory placement policy policy_inv;
典型场景:每个系统仅独占一个实例、单点故障时共享

每个系统仅独占一个实例、单点故障时共享

典型客户案例: 某领先零售企业 TiDB 生产集群架构

示例: Placement Rules in SQL 规则(适合中型系统)

create placement policy policy_server1 leader_constraints="[+host=host1]"; 
create placement policy policy_server2 leader_constraints="[+host=host2]"; 
create placement policy policy_server3 leader_constraints="[+host=host3]"; 
alter database DB1 placement policy policy_server1;
alter database DB2 placement policy policy_server2;
alter database DB3 placement policy policy_server3;

系统内不同负载隔离

以上是多个系统之间的隔离,在一个业务系统内,同样也会有基于负载的隔离需求(如 OLTP 和 ETL/报表两种负载);也就是过去常提及的读写分离,在一套数据库内,实现两种负载的隔离。

在使用 TiDB 时,由于一套集群已经由多台服务器组成,如再建设一套配置相同的备集群来实现,此时成本相对是比较高的。从 6.5 版本开始,也可以轻松使用 Placement Rule/Placement Rules in SQL + Follower 副本读取策略来实现,同时与传统主备/主从读写分离相比:TiDB 的只读区域(含 TiKV/TiFlash)可提供与联机完全一致的查询能力。

典型场景:联机事务处理 +ETL|BI 隔离

联机事务处理 +ETL|BI 隔离

典型客户案例: HTAP 还可以这么玩?丨TiDB 在 IoT 智慧园区的应用

示例:

  • Placement Rules in SQL 规则(针对业务数据,Leader 分布在前两台 TiKV);
create placement policy policy_eyas leader_constraints="[-zone=zone3]"; 
alter database eyas placement policy policy_eyas;
  • Placement Rules in SQL 规则(针对运营数据,Leader 分布在第三台 TiKV);
create placement policy policy_bi leader_constraints="[+zone=zone3]" follower_constraints ='{"+zone=zone1": 1,"+zone=zone2": 1}';
alter database bi_eyas placement policy policy_bi;
alter database da_ping placement policy policy_bi;
alter database eyasbi placement policy policy_bi;
  • 业务库+运营库均增加列存副本;
  • TiDB 设置就近读。
set global tidb_replica_read = 'closest-replicas';
典型场景:联机事务处理+复杂查询隔离

联机事务处理+复杂查询隔离

典型案例: 2 机房双活+1 机房就近只读

注: zone 是 tikv 中一个 label 的定义,可以代表一个真实的机房,也可以单机房集群中设计一个 zone

示例:

  • Placement Rule 规则(设置全局 Leader 和 Follower 分布策略), 机房 q03 不分布任何 Leader,同时 q03 机房进行本地读取;
[{"group_id": "pd","id": "q01","start_key": "","end_key": "","role": "voter","count": 1,"label_constraints": [{"key": "zone", "op": "in", "values": ["q01"]}],"location_labels": ["host"]},{"group_id": "pd","id": "q02","start_key": "","end_key": "","role": "voter","count": 1,"label_constraints": [{"key": "zone", "op": "in", "values": ["q02"]}],"location_labels": ["host"]},{"group_id": "pd","id": "q03","start_key": "","end_key": "","role": "follower","count": 1,"label_constraints": [{"key": "zone", "op": "in", "values": ["q03"]}],"location_labels": ["host"]}
]
  • TiDB 设置就近读。
set global tidb_replica_read='closest-replicas';

基于流控的的隔离方案

基于数据隔离的方案虽然能够有效地实现 CPU、内存、磁盘等资源的物理隔离,但也存在一定的灵活性问题:

  • 数据需要与存储节点进行绑定(也就是资源的最小单位是节点),该方案仅适用于中大型系统之间的隔离,基本不适应于小型系统
  • 在扩缩容时,该方案可能需要迁移底层数据,无法立即生效
  • 如果集群中仅有一套库表供多个系统共享,此时基于数据的隔离方案便无法工作了

为了解决以上不足,TiDB 自 7.1 版本起引入了基于流控的隔离方案 - Resource Control,目的是简化分布式架构中资源管理的复杂度:

  • 将 CPU、IO、网络等资源统一抽象为资源单位(RU),大幅简化对资源的定义
  • 提供数据库用户、SQL 语句、后台任务等三个层面的资源隔离
  • 在扩容或缩容时,资源调整可以秒级生效,无需迁移数据,提供了极致弹性能力

总的来说,Resource Control 是一种更灵活高效的资源管理方式,不仅能够实现多系统、多负载的隔离,还可以进行 SQL 语句和后台任务层面更精细化的控制。

数据库用户隔离

典型场景 - 小型系统整合

在我过去的经历中,我发现小型数据库系统普遍存在资源利用率较低的情况。实际上,我们在申请数据库资源时,往往基于直觉或者标准化配置来选择资源,背后可能并没有一个明确的依据。另外,多个系统通常负载峰值时间各不相同,在使用传统方案时也只能根据最大峰值+冗余的方式来申请资源,不可避免会出现较多资源闲置。

TiDB 的 Resource Control 方案,使得我们能够在较小的配置下实现更高效的资源利用率。将多个小型数据库系统整合到 TiDB 后,每个系统的资源分配可以根据其实际负载峰值、QPS 等需求进行精细化管理;如果在这些系统中存在一个消耗资源较高的系统,还可考虑分配单独的 TiDB 计算实例供其使用。

小型系统整合

典型客户案例: TiDB 7.1 多租户在中泰证券中的应用

典型场景 - SaaS 场景

SaaS 场景

在以上第三种多租户架构中 ,多个租户共用一个库、同时共用一套表,表内通过分区来存储不同 SaaS 租户的数据,或直接使用单表(通过表内的 tenant_id 字段来区分 ),此时 TiDB Resource Control 可以轻松通过数据库用户来为不同租户进行资源控制。

而面对 SaaS 动辄数千个租户的需求,TiDB Resource Control 是极其有帮助的,无需划分 CPU/内存/节点数量,可创建数据库用户级别的资源组,轻松管理不同租户的资源需求和弹性需求:

三种多租户架构

示例:

  • 假设租户 1 是体量非常大,可为其单独创建数据库用户 user1,并为该用户创建独立资源组,优先级高,且允许超用;
CREATE RESOURCE GROUP rg_tenant1 RU_PER_SEC = 1000000 PRIORITY = HIGH BURSTABLE;
alter user 'user1' RESOURCE GROUP rg_tenant1;
  • 其他租户由于体量较小,共用一个资源池;
CREATE RESOURCE GROUP rg_tenant_default RU_PER_SEC = 500000 PRIORITY = MEDIUM;
alter user 'user_default' RESOURCE GROUP rg_tenant_default;
  • 扩容。
ALTER RESOURCE GROUP rg_tenant_default RU_PER_SEC = 900000 PRIORITY = MEDIUM;
典型场景 - 系统内批量负载隔离

典型客户案例: MySQL 到 TiDB 迁移实践:云盛海宏零售业海量场景下 ToC 系统的选型思考与经验分享

在一个系统中往往会存在联机和批量两种负载,如联机的峰值在白天,到凌晨基本上是业务低峰期,此时可以安全的运行系统内的大型批量作业,进行大规模、高密度的读写,以尽快完成批量作业,进而不影响白天的联机业务。

但有些情况下,批量可能会跑到第二天业务高峰期,此时停止这个批量显然是不太合适的,但放任它继续消耗大量资源执行,显然也是不合适的。

在过去其实缺乏一些库内的管控手段的,只能在调度层、应用层进行有限控制。而 TiDB Resource Control 也可以轻松管理这种情况。

示例: 为批量作业单独创建用户,并绑定资源组:

CREATE USER 'USER_BATCH' IDENTIFIED BY '******';
CREATE RESOURCE GROUP rg_batch RU_PER_SEC = UNLIMITED PRIORITY = HIGH;
alter user 'USER_BATCH' RESOURCE GROUP rg_batch;-- 假设批量任务超时运行到第二天白天,只需执行如下 SQL 即可立即将其限速
ALTER RESOURCE GROUP rg_batch RU_PER_SEC = 100000 PRIORITY = LOW;

SQL 语句级别隔离

自 7.2 版本以来,TiDB Resource Control 引入了对 Runaway Queries(即执行时间或消耗资源超出预期的查询)的管理功能:

  • QUERY_WATCH(手动处理):对发现的 SQL 进行限流或熔断
  • QUERY_LIMIT(自动处理):当不符合预期的 SQL 出现时,数据库可自己识别、并自适应处理
典型场景 - SQL限流与熔断(QUERY_WATCH)

有一些 SQL 语句可能存在这种情况:编写不规范或需要查询大量数据(如抽数),它们在运行时可能会消耗大量的资源,我们希望它们跑慢一点没关系,但不要消耗太多资源影响正常业务请求。在 TiDB 中,可以轻松通过 Resource Control 来对它们进行限流:

-- 该 SQL 执行时,单独使用 rg1 资源组执行(rg1 是一个 100 RU 的资源)
SELECT /*+ RESOURCE_GROUP(rg1) */ * FROM t where is_delete=0 and create_time>='2023-01-01';-- 将 default 资源组中的这条 SQL 进行降低优先级,让其限速执行
QUERY WATCH ADD RESOURCE GROUP DEFAULT ACTION COOLDOWN SQL TEXT EXACT TO 'select * FROM t where is_delete=0 and create_time>='2023-01-01';

另外也可能存在一种情况,系统内突然出现一条之前从未运行过的大 SQL,它来历不明,我希望先直接将其熔断,不让其执行:

-- 根据 SQL DIGEST 维度进行拦截,并终止
QUERY WATCH ADD RESOURCE GROUP default ACTION KILL SQL DIGEST 'd08bc323a934c39dc41948b0a073725be3398479b6fa4f6dd1db2a9b115f7f57';-- 另外还可以使用 SQL TEXT 维度(可单独拦截某一特定条件值的 SQL)
-- 以及 PLAN DIGEST 维度(可拦截 SQL 中某一很差的计划出现)
典型场景 - 超出预期的查询自适应管理(QUERY_LIMIT)

基于 QUERY_WATCH 的限流和熔断方案,属于事中或事后的人工处理手段。从问题的出现、发现到最终解决,这一过程往往需要一定的时间;即便是经验丰富、对系统非常熟悉的管理员,在解决完问题时,往往已经过去了数分钟,甚至更长时间。这意味着,业务可能受的影响时间也会与之相关。

而 QUERY_LIMIT 则提供了更加灵活的自适应处理手段,让数据库可以自动发现异常并处理异常,我们只需要定义异常即可:

示例:

  • 创建 rg_auto_cooldown 资源组,限额是 100000 RU,我们可以定义该资源组中执行时间超过 60 秒的查询为 Runaway Query,并让系统自动对 Runaway Query 进行降低优先级限流处理;
CREATE RESOURCE GROUP rg_auto_cooldown RU_PER_SEC = 100000 QUERY_LIMIT=(EXEC_ELAPSED='60s', ACTION=COOLDOWN);
  • 创 建 rg_over_10000 资源组,限额是 100000 RU,我们可以定义该资源组中每秒超过 10000 RU 的查询为 Runaway Query,并让系统自动对他们进行降低优先级限流处理;
CREATE RESOURCE GROUP rg_colldown RU_PER_SEC = 100000 QUERY_LIMIT=(RU=10000, ACTION=COOLDOWN);
  • 还可以在当前资源组,将大型查询隔离到其他资源组执行:定义 default 资源组中处理数据行数超过 1000000 的查询为 Runaway Query,并让系统自动将他放到 rg_bigquery 资源组中执行,避免与当前资源组中的请求发生争用。
CREATE RESOURCE GROUP rg_bigquery RU_PER_SEC = 10000 PRIORITY = LOW;
-- 假设我当前资源组为 default
ALTER RESOURCE GROUP default QUERY_LIMIT=(PROCESSED_KEYS=1000000, ACTION=SWITCH_GROUP(rg_bigquery));

后台任务级别隔离

在日常运维过程中创建索引是一个常见的工作,虽然在 TiDB 中所有 DDL 均是在线的,但我们也不能忽视创建索引时资源消耗带来的风险。自 7.4 版本开始,TiDB Resource Control 引入了对后台任务的管理。

示例:

以创建索引这一 DDL 任务为例,可以设置 ddl 为后台任务,并且限制其最多可使用 TiKV 节点总资源的 30%。此时系统便会动态地限制该任务的资源使用,以尽量避免此类任务在执行时对其他前台任务的性能产生影响:

ALTER RESOURCE GROUP `default` BACKGROUND=(TASK_TYPES='ddl', UTILIZATION_LIMIT=30);

目前 TiDB 支持如下几种后台任务的类型:lightning、br、ddl、stats 等。

总结

通过本文的学习,相信大家对 TiDB 的资源隔离能力有了更全面的理解;大家可以根据不同的场景需求,选择合适的资源隔离方案。

不同类型的隔离方案

如果您有新的资源隔离需求或场景,欢迎与我们联系。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/pingmian/67450.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

w162体育馆管理系统

🙊作者简介:多年一线开发工作经验,原创团队,分享技术代码帮助学生学习,独立完成自己的网站项目。 代码可以查看文章末尾⬇️联系方式获取,记得注明来意哦~🌹赠送计算机毕业设计600个选题excel文…

cursor重构谷粒商城02——30分钟构建图书管理系统【cursor使用教程番外篇】

前言:这个系列将使用最前沿的cursor作为辅助编程工具,来快速开发一些基础的编程项目。目的是为了在真实项目中,帮助初级程序员快速进阶,以最快的速度,效率,快速进阶到中高阶程序员。 本项目将基于谷粒商城…

浅谈云计算14 | 云存储技术

云存储技术 一、云计算网络存储技术基础1.1 网络存储的基本概念1.2云存储系统结构模型1.1.1 存储层1.1.2 基础管理层1.1.3 应用接口层1.1.4 访问层 1.2 网络存储技术分类 二、云计算网络存储技术特点2.1 超大规模与高可扩展性2.1.1 存储规模优势2.1.2 动态扩展机制 2.2 高可用性…

服务器数据恢复—EMC存储POOL中数据卷被删除的数据恢复案例

服务器数据恢复环境&故障: EMC Unity 400存储连接了2台硬盘柜。2台硬盘柜上一共有21块硬盘(520字节)。21块盘组建了2组RAID6:一组有11块硬盘,一组有10块硬盘。 在存储运行过程中,管理员误操作删除了 2组…

【Flink系列】10. Flink SQL

10. Flink SQL Table API和SQL是最上层的API,在Flink中这两种API被集成在一起,SQL执行的对象也是Flink中的表(Table),所以我们一般会认为它们是一体的。Flink是批流统一的处理框架,无论是批处理&#xff08…

《Keras 3 神经网络紧凑型卷积转换器(Transformers)》

Keras 3 神经网络紧凑型卷积转换器(Transformers) 作者:Sayak Paul创建日期:2021/06/30最后修改时间:2023/08/07描述:用于高效图像分类的紧凑型卷积变压器。 (i) 此示例使用 Keras …

本地部署Web-Check网站检测与分析利器并实现远程访问实时监测

文章目录 前言1.关于Web-Check2.功能特点3.安装Docker4.创建并启动Web-Check容器5.本地访问测试6.公网远程访问本地Web-Check7.内网穿透工具安装8.创建远程连接公网地址9.使用固定公网地址远程访问 前言 本文我们将详细介绍如何在Ubuntu系统上使用Docker部署Web-Check&#xf…

Linux自学指南(学习路线大纲)

Linux入门与进阶指南 目录 第一部分 入门篇 第一章 Linux 系统 1.1 Unix:Linux的“祖师爷” 1.2 Linux 操作系统的诞生与发展历程 1.3 Linux 主要应用领域的归纳 1.4 开源社区的兴起 第二章 如何选择Linux发行版? 2.1 Debian GNU/Linux 2.2 Ubu…

常见好用的PHP CMS开源系统有哪些?

开源的系统,网站大家估计也见过很多,尤其是用PHP写的开源系统也很受用户们欢迎,这类系统通常以简单、使用、开源为优势,为用户提供更好的服务。以下就为大家介绍几个常见且好用的PHP CMS开源系统。欢迎补充! 1、WordP…

Mybatis Plus 分页实现

目录 前言: 一、分页插件 1、添加配置类 (1)创建配置类方式: (2)启动类中配置分页插件方式(推荐): 2、测试 二、XML自定义分页 1、UserMapper中定义接口方法 2、UserMapper.xml中编写SQL ​编辑 3、测试 前…

玩转大语言模型——使用graphRAG+Ollama构建知识图谱

系列文章目录 玩转大语言模型——ollama导入huggingface下载的模型 玩转大语言模型——langchain调用ollama视觉多模态语言模型 文章目录 系列文章目录前言下载和安装用下载项目的方式下载并安装用pip方式下载并安装 生成知识图谱初始化文件夹修改模型配置修改知识库生成配置创…

[AUTOSAR通信篇] - AutoSAR通信架构

点击订阅专栏不迷路 文章目录 一、通信驱动二、通信硬件抽象三、通信服务3.1 CAN通信协议栈3.2 J1939通信协议栈3.3 LIN通信协议栈3.4 FlexRay通信协议栈3.5 ETH通信协议栈 返回总目录 先看一张图,这是整个BSW层可以提供的服务,今天我们重点来讲一讲这个…

mac配置 iTerm2 使用lrzsz与服务器传输文件

mac配置 1. 安装支持rz和sz命令的lrzsz brew install lrzsz2. 下载iterm2-send-zmodem.sh和iterm2-recv-zmodem.sh两个脚本 # 克隆仓库 git clone https://github.com/aikuyun/iterm2-zmodem ~/iterm2-zmodem# 进入到仓库目录 cd ~/iterm2-zmodem# 设置脚本文件可执行权限 c…

两级式三相光伏并网逆变器Matlab/Simulink仿真模型

忘记更新最经典的光伏并网仿真模型了,作为包含经典的MPPT和并网恒功率因素的双闭环控制模型,也是很多相关专业学生的入门研究内容,光伏并网模型三相的和单相都有。 其中三相光伏并网逆变器有大功率和小功率的两种,之前早在硕士期…

人工智能之深度学习_[2]-PyTorch入门

PyTorch 1.PyTorch简介 1.1 什么是PyTorch PyTorch是一个基于Python的科学计算包 PyTorch安装 pip install torch -i https://pypi.tuna.tsinghua.edu.cn/simplePyTorch一个基于Python语言的深度学习框架,它将数据封装成张量(Tensor)来进行…

ASP.NET Core - 配置系统之配置添加

ASP.NET Core - 配置系统之配置添加 2. 配置添加 2. 配置添加 配置系统可以读取到配置文件中的信息,那必然有某个地方可以将配置文件添加到配置系统中。之前的文章中讲到 ASP.NET Core 入口文件中,builder(WebApplicationBuilder 对象) 中有一个 Config…

GIS大模型:交通领域方面的应用

文章目录 1. 实时交通流量预测:2. 动态信号灯控制:3. 交通流模式识别:4. 交通事故预警:5. 路径推荐与导航优化:6. 长期交通规划:7. 事件影响分析:8. 智能停车管理: 大模型在交通流量…

Redis复制(replica)

Redis主从复制 [Redis主从复制](replica)是一个多Redis实例进行数据同步的过程,其中一个实例是主实例(Master),其他实例是从实例(Slave)。主实例负责处理命令请求,而从实…

零基础构建最简单的 Tauri2.0 桌面项目 Star 88.4k!!!

目录 预安装环境 安装nodejs windows下安装 linux下安装 nodejs常遇问题 安装C环境 介绍 下载 安装 安装Rust语言 Tauri官网 安装 vscode 安装 rust 插件 安装 Tauri 插件 运行成果 预安装环境 安装nodejs windows下安装 NodeJs_安装及下载_哔哩哔哩_bilibi…

wproxy客户端安装,代理返回JSON

文章目录 一、wproxy基础信息二、使用wproxy客户端代理返回参数 一、wproxy基础信息 https://github.com/avwo/whistle github https://wproxy.org/whistle/quickstart.html 快速上手 Whistle 是基于 Node.JS 实现的操作简单、功能强大的跨平台抓包调试工具,可作为…