Spring cloud - 断路器 Resilience4J

其实文章的标题应该叫 Resilience4J,而不是Spring Cloud Resilience4J,不过由于正在对Spring cloud的一系列组件进行学习,为了统一,就这样吧。

概念区分

首先区分几个概念

  1. Spring cloud 断路器:Spring Cloud的官网对Spring Cloud Circuit Breaker的描述:
    在这里插入图片描述
    Spring Cloud支持的几种断路器实现,其中就包含Resilience4J。

  2. Spring gateway 断路器过滤器:前面一篇文章学习过,Spring Cloud Gateway提供的过滤器中就包括断路器过滤器,断路器过滤器的默认实现也是Resilience4J。

  3. Resilience4J:轻量级的断路器实现,Spring Cloud抛弃Hystrix之后(不知道算不算是抛弃…)的替代品。

今天的文章以学习Resilience4J为主。

Resilience4j 介绍

Resilience4j is a lightweight fault tolerance library designed for functional programming. Resilience4j provides higher-order functions (decorators) to enhance any functional interface, lambda expression or method reference with a Circuit Breaker, Rate Limiter, Retry or Bulkhead. You can stack more than one decorator on any functional interface, lambda expression or method reference. The advantage is that you have the choice to select the decorators you need and nothing else.

Resilience4j 是一个轻量级的容错处理库,提供一些列高阶功能(装饰器)以增强任意的功能接口,以lambda 表达式或方法引用的方式提供Circuit Breaker, Rate Limiter, Retry或Bulkhead。你可以通过表达式或者方法引用启用一个或多个装饰器。

以上内容来自于Resilience4j 官网,内容很容易看得懂但是翻译起来感觉却有些费劲…

Resilience4j 运行在java17上,在spring项目上或springboot、springcloud项目上都可以用,所以他不是spring cloud专有的技术,只不过spring cloud对Resilience4j 做了很好的集成(比如通过spring cloud gateway)。

核心模块

Resilience4j 包含如下核心模块:

  1. resilience4j-circuitbreaker: Circuit breaking 断路器
  2. resilience4j-ratelimiter: Rate limiting 限流
  3. resilience4j-bulkhead: Bulkheading 舱壁,或者叫隔板
  4. resilience4j-retry: Automatic retrying (sync and async) 重试
  5. resilience4j-timelimiter: Timeout handling 超时控制器
  6. resilience4j-cache: Result caching缓存

There are also add-on modules for metrics, Feign, Kotlin, Spring, Ratpack, Vertx, RxJava2 and more.
除此之外还提供了一些其他的附加模块,主要是用来将Resilience4j 集成到其他知名框架中的。

Resilience patterns

官网提供了一张表格,说明Resilience 包含的各模块的工作方式及功能描述。
在这里插入图片描述
Retry: 被调用服务出现异常后的重试功能,Resilience 的设计思路是认为好多服务出现异常之后其实都有可能在短时间内自我修复,所以Retry模块在这种场景下就会发挥作用。
Circuit Breaker: 暂时阻止可能发生错误的调用,避免雪崩效应。
Rate Limiter: 限流,限制一定时间范围内对某一服务的调用次数。
Time Limiter: timeout超时控制功能。
Bulkhead: 舱壁/调用隔离,限制并发数。
Cache: 缓存功能。
Fallback: 也就是所谓的降级服务。

Resilience 的核心功能中,不太容易理解的可能是这个Bulkhead,字面意思是舱壁或隔板的意思,他要实现的功能其实就是限制并发,有两种方式:信号量或线程池。目的也是为了限流,防止某一时刻突然出现的请求井喷从而导致服务异常。

应用

本文采用Spring cloud项目案例来简单说明Resilience核心组件的用法。

在以往springcloud项目的基础上,新建一个circuitbreaker模块,项目结构如下:
在这里插入图片描述

pom引用

pom文件引入Resilience4j :

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"><parent><artifactId>springCloud</artifactId><groupId>com.example</groupId><version>0.0.1-SNAPSHOT</version></parent><modelVersion>4.0.0</modelVersion><artifactId>circuitbreaker</artifactId><dependencies><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-netflix-eureka-client</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-circuitbreaker-resilience4j</artifactId></dependency></dependencies><properties><maven.compiler.source>17</maven.compiler.source><maven.compiler.target>17</maven.compiler.target></properties></project>

创建BackendService接口及实现类

创建一个特别简单的BackendService接口及实现类,模仿被调用的后台服务,BackendService的目的就是为了测试服务出现问题的时候Resilience4j 各核心模块的具体表现,所以我们把BackendService的逻辑设计的非常的简单:
一个接口:

@Service
public interface BackendService {String doSomething();public void setC(int c);
}

一个实现类:

package com.example.service.impl;import com.example.service.BackendService;
import org.springframework.stereotype.Service;import java.util.concurrent.TimeUnit;@Service
public class BackendServiceImpl implements BackendService {private int c;@Overridepublic String doSomething() {System.out.println("i m dosomething...c="+c);int i=10/c;return "do something...c="+c;}@Overridepublic void setC(int c) {this.c=c;}
}

只有一个doSomething方法,方法打印一句话,用方法属性c做了一个除法运算,目的是为了一会儿在测试的时候可以灵活控制其抛出异常。

CircuitBreaker, Retry and Fallback应用

创建一个CircuitBreakerTest类,CircuitBreakerTest是启用CircuitBreaker的关键,我们设置一个test方法,该方法为将BackendService的测试方法doSomething进行包装,也就是增加CircuitBreaker的装饰器,使其具有CircuitBreaker的各种特性:

@Service
public class CircuitBreakerTest {@AutowiredBackendService backendService;public String test(int c){backendService.setC(c);// Create a CircuitBreaker (use default configuration)CircuitBreaker circuitBreaker = CircuitBreaker.ofDefaults("backendName");// Create a Retry with at most 3 retries and a fixed time interval between retries of 500msRetry retry = Retry.ofDefaults("backendName");// Decorate your call to BackendService.doSomething() with a CircuitBreakerSupplier<String> decoratedSupplier = CircuitBreaker.decorateSupplier(circuitBreaker, backendService::doSomething);// Decorate your call with automatic retrydecoratedSupplier = Retry.decorateSupplier(retry, decoratedSupplier);// Use of Vavr's Try to// execute the decorated supplier and recover from any exceptionString result = Try.ofSupplier(decoratedSupplier).recover(throwable -> "Hello from Recovery").get();return result==null?"hello resi":result;}}

test方法首先使用默认配置创建一个CircuitBreaker,之后再用默认配置增加Retry装饰器,Retry的默认配置会指定:如果目标方法调用失败,会以500ms的时间间隔、最多调用3次目标方法,每次调用都失败的话,才认为是最终的调用失败。

之后将装饰器绑定到目标方法BackendService的doSomething方法上。

最后,调用目标方法,并且绑定fallback:方法返回throwable异常的话,返回"Hello from Recovery"作为降级服务(而不是将异常直接返回给调用方)。

新增测试用Controller

新增一个controller:

@RestController
@RequestMapping("/hello")
public class CommonController {@AutowiredCircuitBreakerTest circuitBreakerTest;@GetMapping("/resi/{c}")public String resi(@PathVariable(value="c",required = false) int c){return circuitBreakerTest.test(c);}
}

代码准备好了,可以测试验证了。

测试验证

启动circuitbreaker模块服务,因为我们是将该模块创建在我们之前的springcloud项目框架下了,所以最好也把eureka的配置加进来,否则会有报错:
application.yml:

spring:application:name: circuitbreakercloud:loadbalancer:enabled: true
eureka:client:service-url: # eureka ?????defaultZone: http://127.0.0.1:10086/eureka/
server:port: 9098

之后,启动注册中心,启动circuitbreaker。
在这里插入图片描述

后台log:
在这里插入图片描述

异常测试

输入异常参数,让BackendService的test方法抛出异常,前台得到了降级的fallback返回:
在这里插入图片描述
后台:
在这里插入图片描述
参数为0的时候,前端提交1次,后台Retry工作、重试了3次之后,仍然得到异常返回,最后fallback生效。

RateLimiter应用

RateLimiter是Resilience4j用于限流的组件,为了验证RateLimiter应用,我们前面的案例代码不太使用,需要稍作调整。

CircuitBreakerTest类修改为:

public class CircuitBreakerTest {private Supplier<String> decoratedSupplier;public void init(){if(decoratedSupplier != null) return;log.info("start to create circuitbreaker...");// Create a CircuitBreaker (use default configuration)CircuitBreaker circuitBreaker = CircuitBreaker.ofDefaults("backendName");// Create a Retry with at most 3 retries and a fixed time interval between retries of 500msRetry retry = Retry.ofDefaults("backendName");// Decorate your call to BackendService.doSomething() with a CircuitBreakerdecoratedSupplier = CircuitBreaker.decorateSupplier(circuitBreaker, backendService::doSomething);// Decorate your call with automatic retrydecoratedSupplier = Retry.decorateSupplier(retry, decoratedSupplier);// Create a custom RateLimiter configurationRateLimiterConfig config = RateLimiterConfig.custom().timeoutDuration(Duration.ofMillis(100)).limitRefreshPeriod(Duration.ofMinutes(1)).limitForPeriod(10).build();// Create a RateLimiterRateLimiter rateLimiter = RateLimiter.of("backendName", config);decoratedSupplier = RateLimiter.decorateSupplier(rateLimiter,decoratedSupplier);}@AutowiredBackendService backendService;private int counter=0;public String test(int c){init();backendService.setC(c);log.info("in test counter:"+ ++counter);// Use of Vavr's Try to// execute the decorated supplier and recover from any exceptionString result = Try.ofSupplier(decoratedSupplier).recover(throwable -> "Hello from Recovery").get();return result==null?"hello resi":result;}
}

由于限流装饰器需要统计一定时间范围内的请求次数,所以初始化circuitbreaker的代码不能放在请求内,需要独立出去。

限流器配置为1分钟之内的请求不超过10次,超过10次则限流限制生效、触发降级服务fallback。加了一个调用计数器,调用的时候在log中打印。

启动服务,测试。前端不断刷新,可以发现前10次能够正常获得返回,第11次开始获取不到正常返回了,返回的是fallback:
在这里插入图片描述

查看后台log:
在这里插入图片描述
由于请求都发生在15:26这一分钟之内,所以,前10次请求都能正常调用到BackendService的doSomething方法中,第11次请求之后,就被RateLimiter限流了,请求不能到达调用服务中了,这种情况下前端的反馈是fallback降级服务。

Bulkhead应用

Resilience4j提供了两种Bulkhead隔离策略:SemaphoreBulkhead和ThreadPoolBulkhead。

SemaphoreBulkhead

在上面的CircuitBreakerTest类的init方法尾部加入:

        // Create a custom Bulkhead configurationBulkheadConfig bulkheadConfig = BulkheadConfig.custom().maxConcurrentCalls(150).maxWaitDuration(Duration.ofSeconds(1)).build();Bulkhead bulkhead = Bulkhead.of("backendName", bulkheadConfig);decoratedSupplier =Bulkhead.decorateSupplier(bulkhead,decoratedSupplier);

不过项目引入的:

		<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-circuitbreaker-resilience4j</artifactId></dependency>

并不能包含Bulkhead 所在的包,暂时还没有搞清楚spring cloud集成的resilience4j,其Bulkhead 在哪个依赖中。所以临时加入了:

        <dependency><groupId>io.github.resilience4j</groupId><artifactId>resilience4j-spring-boot2</artifactId><version>1.7.0</version></dependency>

resilience4j针对springboot2的依赖包,引入依赖之后编译能通过了。

上面代码对Bulkhead 配置为:1秒钟时间范围内的并发线程数不能超过150个。

ThreadPoolBulkhead

ThreadPoolBulkhead配置:

        ThreadPoolBulkheadConfig tpconfig = ThreadPoolBulkheadConfig.custom().maxThreadPoolSize(10).coreThreadPoolSize(2).queueCapacity(20).build();

使用线程池进行限流,最大线程数10,核心线程数2,队列容量20。这种情况下,最大并发线程为10,超过并发线程数的请求将进入队列排队等待,队列满之后,请求将被拒绝。

多组件共同作用的顺序

多个组件共同作用的话,先后顺序如下:

Retry ( CircuitBreaker ( RateLimiter ( TimeLimiter ( Bulkhead ( Function ) ) ) ) )

第一个起作用的是Bulkhead ,最后一个起作用的是Retry。

事件机制

CircuitBreaker, RateLimiter, Cache, Bulkhead, TimeLimiter and Retry components emit a stream of events. It can be consumed for logging, assertions and any other purpose.

Resilience4J的各组件支持发布事件,时间可以被其他任何应用消费(比如日志应用、断言等)。

比如:

circuitBreaker.getEventPublisher().onSuccess(event -> logger.info(...)).onError(event -> logger.info(...)).onIgnoredError(event -> logger.info(...)).onReset(event -> logger.info(...)).onStateTransition(event -> logger.info(...));
// Or if you want to register a consumer listening to all events, you can do:
circuitBreaker.getEventPublisher().onEvent(event -> logger.info(...));

应用可捕获(消费)成功、失败、重置等事件,针对事件进行进一步处理。

OK,此致!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/226550.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Django-03】模型常用的增删改查

Django Model 增删改查函数 QuerySet 对象all()filter()get()exclude()values()distinct()支持的表达式组合使用创建数据更新数据删除数据F()函数Q()函数 class Grade(models.Model):id models.AutoField(verbose_name自增id, name"id", primary_keyTrue)grade_name…

02_Web开发基础之JavaScript

Web开发基础之JavaScript 学习目标和内容 1、能够描述Javascript的作用 2、能够使用分支结构if语句逻辑判断 3、能够使用其中一种循环语句 4、能够定义javaScript中的函数 5、能够定义javaScript中的对象 6、能够描述DOM的作用 7、能够通过DOM操作HTML标签元素及其属性 8、能够…

1.2 【应用开发】开发一个基本的Screen应用

一&#xff0c;Screen应用开发简述 QNX Screen图形子系统是一个图形框架&#xff0c;因此&#xff0c;使用该框架开发的应用程序在复杂性和功能上可能会有很大差异。也就是说&#xff0c;大多数Screen应用程序在简化后&#xff0c;会执行某种渲染&#xff0c;以便在显示器上显…

走进暄桐教室 一起观看暄桐同学作品及感受

暄桐是一间传统美学教育教室&#xff0c;创办于2011年&#xff0c;林曦是创办人和授课老师&#xff0c;教授以书法为主的传统文化和技艺&#xff0c;旨在以书法为起点&#xff0c;亲近中国传统之美&#xff0c;以实践和所得&#xff0c;滋养当下生活。其实&#xff0c;暄桐教室…

vue表单输入绑定

基础用法 你可以用 v-model 指令在表单 <input>、<textarea> 及 <select> 元素上创建双向数据绑定。它会根据控件类型自动选取正确的方法来更新元素。尽管有些神奇&#xff0c;但 v-model 本质上不过是语法糖。它负责监听用户的输入事件以更新数据&#xff0…

大O记法了解

1、概念 大O记法&#xff08;Big O notation&#xff09;是一种用于描述算法时间复杂度的一种标记法。它表示了算法在最坏情况下对输入规模的增长速度&#xff0c;或者说算法执行时间的增长速度。用大写字母O和一个函数来表示&#xff0c;定义为T(n)O(f(n))。其中&#xff0c;…

数据结构与算法—查找算法(线性查找、二分查找、插值查找、斐波那契查找)

查找算法 文章目录 查找算法1. 线性查找算法2. 二分查找算法2.1 二分查找思路分析2.2 应用实例 3. 插值查找3.1 基本原理3.2 应用实例 4. 斐波那契4.1 基本原理4.2 应用实例 5. 查找总结 在java中&#xff0c;常用的查找有四种&#xff1a; 顺序(线性)查找二分查找/折半查找插值…

使用Node.js创建接口

当使用Node.js创建接口时&#xff0c;有两种主要方式&#xff1a;使用Express框架和使用Node.js的HTTP模块。 Express框架方式&#xff1a; 总的来说&#xff0c;使用Express框架可以更快速地搭建和管理接口&#xff0c;而使用Node.js的HTTP模块则提供了更多底层控制和灵活性&…

广州华锐互动:汽车电子线束加工VR仿真培训与实际生产场景相结合,提高培训效果

随着科技的不断发展&#xff0c;虚拟现实&#xff08;VR&#xff09;技术已经逐渐渗透到各个领域&#xff0c;为企业和个人带来了前所未有的便利。在汽车制造行业中&#xff0c;线束加工作为一项关键的生产工艺&#xff0c;其质量直接影响到汽车的性能和安全。因此&#xff0c;…

基于中小微企业_个体工商户的信贷评分卡模型和用户画像(论文_专利_银行调研建模使用)

背景介绍 信用贷款是指由银行或其他金融机构向中小微企业和个体工商户提供的一种贷款产品。该贷款的特点是无需提供抵押品或担保&#xff0c;主要依据借款人的信用状况来进行评估和审批。 中小微企业和个体工商户信用贷款的申请流程相对简单&#xff0c;申请人只需要提供个人…

C++高性能服务器框架muduo,与配套书籍《Linux多线程服务端编程》解读

本章解读C开源项目 muduo 代码&#xff0c;与配套书籍《Linux多线程服务端编程》&#xff0c;均来自作者陈硕&#xff0c;是业内比较有名的大神。 目录 muduo 源码解读《Linux多线程服务端编程》笔记第1章 线程安全的对象生命周期管理第2章 线程同步精要第3章 多线程服务器的适…

【【HDMI 方块移动实验 】】

HDMI 方块移动实验 dvi_transmitter_top.v module dvi_transmitter_top(input pclk ,input sys_rst_n ,input pclk_x5 ,input video_hsync ,input video_vsync ,input …

MySQL数据库的基础概念

目录 顾名思义&#xff0c;数据库是用于存储数据的&#xff0c;那这些数据被存储在哪呢&#xff1f; 文件也能存储数据&#xff0c;那在这个基础上&#xff0c;为什么还要搞出一个数据库来存储数据呢&#xff1f; MySQL的客户端登录/退出指令、服务端的启动/关闭指令 数据…

如何查看PHP信息

创建一个 PHP 文件&#xff0c;比如 info.php&#xff0c;在其中添加以下代码&#xff1a; <?php phpinfo(); ?>访问这个文件&#xff08;例如&#xff0c;在浏览器中输入 http://localhost/info.php&#xff09;&#xff0c;它会显示 PHP 的所有配置信息。在这个页面…

【设计模式】之工厂模式

工厂模式 1.介绍 工厂模式&#xff08;创建型模式&#xff09;&#xff0c;是我们最常用的实例化对象模式&#xff0c;是用工厂方法代替new操作的一种模式&#xff1b;在工厂模式中&#xff0c;我们在创建对象时不会对客户端暴露创建逻辑&#xff0c;并且是通过使用一个共同的…

服务器挖矿木马识别与清理

一、什么是挖矿木马 挖矿木马会占用CPU进行超频运算,从而占用主机大量的CPU资源,严重影响服务器上的其他应用的正常运行。黑客为了得到更多的算力资源,一般都会对全网进行无差别扫描,同时利用SSH爆破和漏洞利用等手段攻击主机。部分挖矿木马还具备蠕虫化的特点,在主机被成…

Threejs利用着色器编写动态飞线特效

一、导语 动态飞线特效是可视化数据地图中常见的需求之一&#xff0c;鼠标点击的区块作为终点&#xff0c;从其他区块飞线至点击区块&#xff0c;附带颜色变换或者结合粒子动画 二、分析 利用创建3点来构成贝塞尔曲线&#xff0c;形成线段利用着色器材质来按照线段以及时间…

Go语言学习:第1天

一、为什么开始学go语言 我自己是做测试的&#xff0c;所测试项目使用的是go语言。开始学习go语言的原因有两个&#xff1a;一方面&#xff0c;为了更好的做好工作&#xff1b; 另一方面&#xff0c;为了提高自己的核心竞争力。 二、第1天学习到的内容 2.1 Go是怎么解决包依…

JavaScript——严格检查模式

‘use strict’ &#xff1a; 严格检查模式&#xff0c;预防JavaScript的随意性导致产生的一些问题&#xff08;必须写在JavaScript的第一行&#xff09; <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><title…

buildadmin:表格中实现详情按钮

其一&#xff1a;创建组件并在当前控制器中引入组件 <!-- 示例核心代码(1/3) --> <!-- 详情组件在此处使用&#xff0c;但显示与否的判断是写在组件内的 --> <Detail /><!-- 引入组件 --> import Detail from ./detail.vue其二&#xff1a;注册按钮 …