SpringCloudAlibaba微服务实战系列(四)Sentinel熔断降级、异常fallback、block细致处理

SpringCloudAlibaba Sentinel降级和熔断

接着上篇文章的内容,在Sentinel中如何进行降级和熔断呢?

熔断降级规则

降级规则

在Sentinel中降级主要有三个策略:RT、异常比例、异常数,也是针对某个资源的设置。而在1.8.0+版本后RT改为了慢调用比例

需要设置允许的慢调用 RT(即最大的响应时间),请求的响应时间大于该值则统计为慢调用。当单位统计时长(statIntervalMs)内请求数目大于设置的最小请求数目,并且慢调用的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求响应时间小于设置的慢调用 RT 则结束熔断,若大于设置的慢调用 RT 则会再次被熔断。

RT:表示该资源1s内处理请求的平均响应时间。

注意:RT值的上限时4900ms,及时超过也是4900ms,如需自定义,可以在启动sentinel时增加参数

-Dcsp.sentinel.statistic.max.rt=x

慢调用比例

依旧是在簇点链路的列表视图选择/sentinelTest一行,进入熔断,设置参数如图:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-sGUoQXMY-1690077568501)(../imgs3/1.png)]

RT设置为800ms,熔断时长设置为20s,为了测试效果,把接口睡眠1s。

@RequestMapping("/sentinelTest")
public String sentinelTest() throws InterruptedException {Thread.sleep(1000);return "sentinel-consumer9001 sentinelTest" + RandomUtils.nextInt(0, 1000);
}

解读:响应时间超过RT值的请求被称为慢调用。在单位时间(上图的统计时长1s)内,请求的数量大于最小请求数(5),且慢调用的比例>=阈值,此资源进入熔断状态(20s内不可用)。

Jmeter请求/sentinelTest,使用10个线程执行100次结果。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-10RfprgA-1690077568503)(../imgs3/2.png)]

前面几个请求是正常返回数据,后面全部降级处理,直接返回提示信息(此时该资源已经进入了熔断状态,可以理解为家里的电闸给关了,必须重新打开电闸,才能恢复使用电力)。后面这个资源无论怎样被调用,都无法进入接口,直接返回提示。

异常比例

当单位统计时长(statIntervalMs)内请求数目大于设置的最小请求数目,并且异常的比例大于阈值,则接下来的熔断时长内请求会自动被熔断。经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。异常比率的阈值范围是 [0.0, 1.0],代表 0% - 100%

表示请求该资源的异常总数占比。先模拟一个异常

@RequestMapping("/sentinelTest")
public String sentinelTest() {int i = 1 / 0;	// 除数为0return "sentinel-consumer9001 sentinelTest" + RandomUtils.nextInt(0, 1000);
}

设置规则

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kviEhxbh-1690077568503)(../imgs3/3.png)]

解读:当1s内,请求数量>5,且异常的比例大于80%,熔断20s

调用资源

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-c5jTOk65-1690077568504)(../imgs3/4.png)]

前几个请求正常请求返回异常提示,而后面的所有请求直接被拒绝访问。

异常数

该资源近1分钟内的异常数量。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-1q8O3llS-1690077568504)(../imgs3/5.png)]

解读:当1s内,请求数量>5,且异常的数量>=10,熔断20s

经过熔断时长后熔断器会进入探测恢复状态(HALF-OPEN 状态),若接下来的一个请求成功完成(没有错误)则结束熔断,否则会再次被熔断。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eZyC2RzK-1690077568505)(../imgs3/6.png)]

当到11个请求仍然是异常时,直接熔断。

系统规则

之前的所有规则都是针对某个资源(接口)而言的,后面我们将针对整个应用设置系统规则。相对更加粗粒度,属于应用级别的入口流量控制。那么相对应的也有几种规则:

  • LOAD:负载,当系统负载超过设定值,且发现线程数超过预估系统容量就会触发保护机制。
  • RT:整个应用上所有资源平均的响应时间,而不是固定某个资源
  • 线程数:设定整个系统所能使用的业务线程数阈值,不固定某个资源
  • 入口QPS:整个应用所有的每秒处理的请求数
  • CPU使用率:这个应用占用的CPU的百分比

使用时可以根据服务器的情况设置即可。

授权规则

授权规则是根据调用方判断调用资源的请求是否应该被允许访问。Sentinel提供了黑白名单的授权类型,白名单表示允许调用资源,黑名单则不允许调用资源。

在java中实现相关的接口,将返回值交给sentinel处理。(注意:这里是在服务提供者方设置的

@Component
public class CustomRequestOriginParser implements RequestOriginParser {@Overridepublic String parseOrigin(HttpServletRequest httpServletRequest) {String origin = httpServletRequest.getParameter("origin"); // 区分来源,本质通过request域获取来源标识if (StringUtils.isEmpty(origin)) {throw new RuntimeException("origin不能为空");}return origin; // 将返回的结果交给sentinel处理}
}

然后配置个授权规则

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-qZlV3SQw-1690077568506)(../imgs3/7.png)]

资源名/test设置app为黑名单

当请求provider服务上的接口时,若origin为空则会被拒绝访问,若origin=app时仍会被拒绝,而其他的值则是可以访问

D:\springcloud\doc>curl localhost:8002/test?origin=app
==>Blocked by Sentinel (flow limiting)
D:\springcloud\doc>curl localhost:8002/test?origin=pc
==>sentinel-provider8002 test()921

使用@SentinelResource注解

之前主要是利用Sentinel仪表板控制一些参数保护应用。后面我们使用@SentinelResource注解根据实际情况实现定制化功能,对应用的保护更加细粒度。

现在限制达到阈值时,直接提示Blocked by Sentinel(flow limiting),提示不太友好,需要实现更精细化的控制。

blockHandler属性–负责响应控制面板配置

添加一个接口/blockHandlerTest资源名为blockHandlerTest,如果违反Sentinel控制台的规则,则进入blockHandlerTestHander。

@RequestMapping("/blockHandlerTest")
@SentinelResource(value = "blockHandlerTest", blockHandler = "blockHandlerTestHandler")
public String blockHandlerTest(String params) {return "Test#blockHandlerTest" + RandomUtils.nextInt(0, 1000);
}public String blockHandlerTestHandler(String params, BlockException bl) {return "Test#blockHandlerTest" + RandomUtils.nextInt(0, 1000) + bl.getMessage();
}

注意:blockHandlerTestHandler方法的返回值要和原方法一致,并且除了原有的参数,还要带上BlockException的参数

设置一个流控,在@SentinelResouce注解中我们把资源名设置为blockHandlerTest,那么设置流控也是针对这个资源设置,让后面的请求进入我们自定义的处理中。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-H3ZqQxww-1690077568506)(../imgs3/8.png)]

可以看到,流控超过阈值后,其他的所有请求都是走的我们自定义的处理器。

热点规则

在一段时间内访问很频繁的资源是热点资源,需要针对资源做参数化定制。

@RequestMapping("/testHotKeyA")
@SentinelResource(value = "testHotKeyA", blockHandler = "blockTestHotKeyA")
public String testHotKeyA(@RequestParam(value = "orderId", required = false) String orderId,@RequestParam(value = "userId", required = false) String userId) {return "Test#testHotKeyA" + RandomUtils.nextInt(0, 1000);
}public String blockTestHotKeyA(String orderId, String userId, BlockException bl) {return "Test#blockTestHotKeyA" + RandomUtils.nextInt(0, 1000) + bl.getMessage();
}

去sentinel页面上加一个热点key规则

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tPEIErRB-1690077568507)(../imgs3/9.png)]

索引从0开始,那么获取的就是我们的orderId参数,在调用/testHotKeyA时要加上oderId参数否则不生效。

在这里插入图片描述

正确进入处理。

同时,我们可以对热点资源具体的某个参数值做阈值限制。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-WeFEBvdq-1690077568508)(../imgs3/11.png)]

上图是对orderId为111或222时,阈值设置为500.再次测试,基本上不会进入自定义的处理中。但是为其他值时还是会进入我们的自定义处理。

fallback处理

前面是针对违反sentinel控制台规则做的处理,那么当我们的业务层面出现问题时,要做异常回滚等,则要使用fallback处理。同样是@SentinelResource中的属性。sentinel-1.6.0之前的版本是不支持针对业务异常处理的

@RequestMapping("/fallbackTest")
@SentinelResource(value = "fallbackTest", fallback = "fallbackHandler")
public String fallbackTest(String params) {int i = 1 / 0;return "Test#fallbackTest" + RandomUtils.nextInt(0, 1000);
}public String fallbackHandler(String params) {return "Test#fallbackHandler" + RandomUtils.nextInt(0, 1000);
}

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-cGmfv2T9-1690077568508)(../imgs3/12.png)]

所有的请求都进入到异常处理的方法中了。

fallback+blockHandler

@RequestMapping("/sentinelUnionTest")
@SentinelResource(value = "sentinelUnionTest", fallback = "sentinelUnionTestFallback", blockHandler = "sentinelUnionTestBlockHandler")
public String sentinelUnionTest(String params) {int i = 1 / 0;return "Test#fallbackTest" + RandomUtils.nextInt(0, 1000);
}public String sentinelUnionTestFallback(String params) {return "Test#sentinelUnionTestFallback" + RandomUtils.nextInt(0, 1000);
}public String sentinelUnionTestBlockHandler(String params, BlockException bl) {return "Test#sentinelUnionTestBlockHandler" + RandomUtils.nextInt(0, 1000) + bl.getMessage();
}

sentinelUnionTest资源设置流控,调用接口观察结果

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nP7LNAIb-1690077568509)(../imgs3/14.png)]

第一个接口是正常进入到了fallback处理,然后后面的请求因为超过阈值,直接进入block处理中了。

忽略异常–exceptionsToIngnore

fallback定义的方法可以针对所有类型的异常,我们也可以忽略某些异常。

@RequestMapping("/fallbackTest")
@SentinelResource(value = "fallbackTest", fallback = "fallbackHandler", exceptionsToIgnore = ArithmeticException.class)
public String fallbackTest(String params) {int i = 1 / 0;return "Test#fallbackTest" + RandomUtils.nextInt(0, 1000);
}public String fallbackHandler(String params) {return "Test#fallbackHandler" + RandomUtils.nextInt(0, 1000);
}

模拟了一个计算异常,但是此异常被忽略了,所以不会进入到fallbackHandler中进行处理,而是直接jvm抛异常给客户端响应。

代码优化

前面的代码中都是把fallback和block全都写在了一起,这样是不符合程序单一性原则的,毕竟controller层有很多之外的逻辑,二来别的类也不好复用。

sentinel考虑到这些情况,在@SentinelResource中有blockHandlerClassfallbackClass。顾名思义,blockHandlerClass中写blockHandler函数,fallbackClass中写fallback的函数。

// 异常fallback
public class ExceptionHandler {public static String sentinelTestFallback(String params) {return "testCon#sentinelTestFallback" + RandomUtils.nextInt(0, 1000);}
}
// blockHandler处理
public class BlockHandler {public static String sentinelBlock(String params, BlockException e) {return "testCon#sentinelBlock" + RandomUtils.nextInt(0, 1000);}
}

两个类中的方法必须是static 修饰的,且参数要和原方法保持一致,否则无法解析噢

接口原方法

@RequestMapping("/sentinelUnionTest")
@SentinelResource(value = "sentinelUnionTest",fallbackClass = ExceptionHandler.class, fallback = "sentinelTestFallback",  // 指定类和方法名blockHandlerClass = BlockHandler.class, blockHandler = "sentinelBlock")     // 指定类和方法名
public String sentinelUnionTest(String params) {int i = 1 / 0;return "Test#fallbackTest" + RandomUtils.nextInt(0, 1000);
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/11191.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何做好项目管理?年薪百万项目大佬一直在用这11张图!

日常工作中,我们会遇到各种大大小小的工作项目,如何能让项目保质保量的完成,就需要项目管理。项目管理是什么?一句话解释:在有限的时间内,在约束的范围中,集合有限资源来完成项目目标。 本周小编…

【深度学习】从现代C++中的开始:卷积

一、说明 在上一个故事中,我们介绍了机器学习的一些最相关的编码方面,例如 functional 规划、矢量化和线性代数规划。 本文,让我们通过使用 2D 卷积实现实际编码深度学习模型来开始我们的道路。让我们开始吧。 二、关于本系列 我们将学习如何…

【深入浅出Spring原理及实战】「缓存Cache开发系列」带你深入分析Spring所提供的缓存Cache管理器的实战开发指南(修正篇)

带你深入分析Spring所提供的缓存Cache管理器的实战开发指南 前提介绍基于注解的支持Cacheablecacheable的属性介绍value属性指定Cache名称使用key属性自定义key案例分析caches condition属性指定发生的条件 CachePut使用案例 CacheEvictallEntries属性beforeInvocation属性 Cac…

大学的python课程一般叫什么,大学开设python课程吗

大家好,小编为大家解答大学的python课程一般叫什么的问题。很多人还不知道大学python课有没有听的必要,现在让我们一起来看看吧! 1、华中农业大学python期末考试会考原题吗 华中农业大芦如学python期末考试不会考原题。华中农业搜侍大学pyth…

OpenCV图像处理-图像分割-MeanShift

MeanShift 1. 基本概念2.代码示例 1. 基本概念 MeanShift严格说来并不是用来对图像进行分割的,而是在色彩层面的平滑滤波。它会中和色彩分布相近的颜色,平滑色彩细节,侵蚀掉面积较小的的颜色区域,它以图像上任意一点P为圆心&…

配置文件、request对象请求方法、Django连接MySQL、Django中的ORM、ORM增删改查字段、ORM增删改查数据

一、配置文件的介绍 1.注册应用的 INSTALLED_APPS [django.contrib.admin,django.contrib.auth,django.contrib.contenttypes,django.contrib.sessions,django.contrib.messages,django.contrib.staticfiles,app01.apps.App01Config, ]################中间件###############…

UE4/5C++多线程插件制作(十三、优化,bug,尝试打包【尚未完成插件封装,初次测试】)

目录 MTPPlatform.h MTPMarco.h MTPSemaphore.h MTPSemaphore.cpp RTPRunnable.cpp 模板问题 打包问题 MTPPlatform.h 首先我们准备一个跨平台使用的头文件,在ue内部有很多关于跨平台

CSS :nth-child

CSS :nth-child :nth-child 伪类根据元素在同级元素中的位置来匹配元素. CSS :nth-child 语法 值是关键词 odd/evenAnB最新的 [of S] 语法权重 浏览器兼容性 很简单的例子, 来直觉上理解这个伪类的意思 <ul><li class"me">Apple</li><li>B…

websocket服务端,运行后始终无法连接的解决方案

javax.websocket.DeploymentException: The HTTP response from the server [404] did not permit the HTTP 解决办法&#xff1a;少两个文件&#xff1a; WebSocketConfig.java Configuration public class WebSocketConfig {/*** 注入一个ServerEndpointExporter,该Bean…

MySQL 服务器的调优策略

点击上方↑“追梦 Java”关注&#xff0c;一起追梦&#xff01; 在工作中&#xff0c;我们发现慢查询一般有2个途径&#xff0c;一个是被动的&#xff0c;一个是主动的。被动的是当业务人员反馈某个查询界面响应的时间特别长&#xff0c;你才去处理。主动的是通过通过分析慢查询…

在Microsoft Excel中如何快速合并表格

在 Excel 中分析数据时&#xff0c;在一个工作表中收集所有必要信息的频率是多少&#xff1f;几乎从来没有&#xff01;当不同的数据分散在许多工作表和工作簿中时&#xff0c;这是一种非常常见的情况。幸运的是&#xff0c;有几种不同的方法可以将多个表中的数据组合成一个表&…

机器学习深度学习——线性回归的简洁实现

&#x1f468;‍&#x1f393;作者简介&#xff1a;一位即将上大四&#xff0c;正专攻机器学习的保研er &#x1f30c;上期文章&#xff1a;机器学习&&深度学习——线性回归的从零开始实现 &#x1f4da;订阅专栏&#xff1a;机器学习&&深度学习 希望文章对你们…

全球程序员需要知道的50+网址,有多少你第一次听说?

作为程序员&#xff0c;需要知道的50网址&#xff0c;有多少你第一次听说 GitHub (github.com): 最大的代码托管平台&#xff0c;开源项目和代码分享的社区。程序员可以在这里找到各种有趣的项目&#xff0c;参与开源贡献或托管自己的代码。 Stack Overflow (stackoverflow.co…

Python[parquet文件 转 json文件]

将Python中的Parquet文件转换为JSON文件 引言 Parquet是一种高效的列式存储格式&#xff0c;而JSON是一种常见的数据交换格式。我们将使用pandas和pyarrow库来实现这个转换过程&#xff0c;并且提供相关的代码示例。 安装所需库 首先&#xff0c;请确保您已经安装了pandas和…

Rust: Vec类型的into_boxed_slice()方法

比如&#xff0c;我们经常看到Vec类型&#xff0c;但取转其裸指针&#xff0c;经常会看到into_boxed_slice()方法&#xff0c;这是为何&#xff1f; use std::{fmt, slice};#[derive(Clone, Copy)] struct RawBuffer {ptr: *mut u8,len: usize, }impl From<Vec<u8>&g…

垃圾回收之三色标记法(Tri-color Marking)

关于垃圾回收算法&#xff0c;基本就是那么几种&#xff1a;标记-清除、标记-复制、标记-整理。在此基础上可以增加分代&#xff08;新生代/老年代&#xff09;&#xff0c;每代采取不同的回收算法&#xff0c;以提高整体的分配和回收效率。 无论使用哪种算法&#xff0c;标记…

【libevent】http客户端2:使用post 发送本地文件到服务器

HttpClient2POST的例子 看起来只post了一次?#include <stdio.h> #include <assert.h> #include <stdlib.h> #include

深入浅出Pytorch函数——torch.maximum

分类目录&#xff1a;《深入浅出Pytorch函数》总目录 相关文章&#xff1a; 深入浅出Pytorch函数——torch.max 深入浅出Pytorch函数——torch.maximum 计算input和other的元素最大值。 语法 torch.maximum(input, other, *, outNone) -> Tensor参数 input&#xff1a;…

C# OpenCvSharpe 二值化工具 阈值 自适应阈值 局部阈值 InRange

效果 阈值 自适应阈值 局部阈值 InRange 项目 VS2010.net4.0OpenCvSharper3 Demo下载

Educational Codeforces Round 152 (Rated for Div. 2)

B. Monsters 题意&#xff1a;你的攻击力为k&#xff0c;你优先攻击血量最多的怪物&#xff0c;血量相同击杀编号小的&#xff0c;问怪物被击杀的顺序&#xff0c; 思路&#xff1a;我们可以知道最后肯定存在一个状态&#xff0c;所有怪物就差一次攻击就死了&#xff0c;这个…