微服务- 熔断、降级和限流

基本介绍

在微服务架构中,由于服务之间的相互依赖性,任何一个服务的故障或性能问题都可能导致整个系统的不稳定。因此,熔断、降级和限流是三种常见的技术手段,用于提高系统的可用性和稳定性。

熔断 (Circuit Breaker)

熔断机制的设计灵感来源于电路中的熔断器,用于防止过载或故障扩散,保护系统不受进一步的影响。当一个微服务出现问题,如响应时间过长或失败率过高时,熔断器会自动“断开”,阻止对该服务的进一步访问。熔断器断开后,后续的请求会直接失败,而不是继续调用下游服务。经过预定的时间后,熔断器会自动进入“半开”状态,尝试允许部分请求通过,并监控请求的成功率,如果请求成功率恢复到一定程度,熔断器会完全“闭合”,恢复服务调用。

降级 (Fallback)

降级策略是当下游服务因过载或故障导致无法正常响应时,上游服务可以自动降低服务质量,以保证核心服务的可用性。降级操作可以包括返回一个默认值、调用备用服务、限制某些功能的使用等。降级的目的是优先保证系统的整体可用性和稳定性,哪怕是以牺牲部分服务质量或功能为代价。

限流 (Rate Limiting)

限流是控制访问频率和并发量的一种手段,目的是防止服务因过度使用而过载。限流可以应用于API接口、服务间调用、数据流等多个层面。常见的限流策略包括令牌桶(Token Bucket)、漏桶(Leaky Bucket)等算法。通过限制请求的速率,可以确保服务在安全的负载范围内运行,即使在流量高峰期也能保持系统的稳定性。

总结

  • 熔断:自动检测服务故障,暂时切断服务调用,防止故障扩散,类似于电路中的熔断器。
  • 降级:在服务出现问题时,主动降低服务质量(如返回默认响应),保证核心服务的可用性。
  • 限流:控制访问频率和并发量,防止服务因过度使用而过载,确保服务的稳定性。

这些技术手段通常在微服务架构中是相辅相成的,通过合理的设计和实现,可以显著提高分布式系统的弹性和稳定性。

熔断 (Circuit Breaker)

假设我们有一个电商应用,其中包括一个订单服务和一个支付服务。订单服务需要调用支付服务来处理支付请求。在高流量情况下,如果支付服务变得不稳定(例如,由于数据库问题或网络延迟),而订单服务继续不加限制地调用支付服务,那么不仅支付服务可能会完全崩溃,订单服务也可能因为大量积压的调用而变得缓慢或不可用。

为了防止这种情况,我们可以在订单服务中实现熔断机制。下面是一个简化的熔断机制示例,演示了如何在订单服务中调用支付服务时使用熔断器:

import com.netflix.hystrix.HystrixCommand;
import com.netflix.hystrix.HystrixCommandGroupKey;public class PaymentServiceCommand extends HystrixCommand<String> {private final String orderId;public PaymentServiceCommand(String orderId) {super(HystrixCommandGroupKey.Factory.asKey("PaymentServiceGroup"));this.orderId = orderId;}@Overrideprotected String run() {// 这里是调用支付服务的代码// 模拟调用支付服务APIreturn "Payment processed for order " + orderId;}@Overrideprotected String getFallback() {// 当熔断器打开或命令执行失败时,调用此回退方法return "Fallback: Payment could not be processed for order " + orderId;}
}

在这个示例中,PaymentServiceCommand 继承自 HystrixCommand,其中 run 方法包含调用支付服务的逻辑。如果支付服务调用成功,run 方法就会返回一个成功消息。如果调用失败(抛出异常),则自动触发 getFallback 方法,返回一个回退响应,告诉用户支付服务当前不可用。

熔断器的工作流程如下:

  1. 闭合状态(Closed):熔断器默认状态,所有请求都会正常调用支付服务。
  2. 打开状态(Open):如果 run 方法中的错误率超过预定的阈值(例如,超过50%的请求失败),熔断器会转到打开状态。在这个状态下,所有对支付服务的调用都会直接失败,不会执行 run 方法,而是直接调用 getFallback 方法。这可以防止对已经不稳定的支付服务造成更多压力。
  3. 半开状态(Half-Open):经过一定时间后(例如,60秒),熔断器会自动进入半开状态,尝试允许一部分请求通过,并检查这些请求是否成功。如果这些请求成功,熔断器会判定支付服务已经恢复正常,然后关闭熔断器,恢复正常的请求流程。如果这些请求仍然失败,熔断器会再次打开,继续阻断请求。

通过这种方式,熔断器帮助我们防止了一次服务故障导致整个系统不稳定的情况,提高了系统的可用性和稳定性。

降级 (Fallback)

假设我们有一个视频分享平台,用户可以上传视频,平台会对视频进行处理(如转码、压缩等),然后其他用户可以观看。视频处理是一个资源密集型的任务,尤其是在高流量时期,可能会对系统造成很大压力。

为了确保平台的核心功能(视频观看)在资源紧张时仍能正常使用,我们可以实现一个降级策略:当视频处理服务过载时,系统会自动降级,即暂时停止对上传的视频进行处理,而是存储原始视频,并给上传者一个提示,说明视频将在系统负载较低时进行处理。

下面是一个简化的代码示例,演示了如何在视频上传功能中应用降级策略:

public class VideoUploadService {public String uploadVideo(File video) {if (isSystemOverloaded()) {// 系统过载,执行降级策略storeVideoWithoutProcessing(video);return "Video uploaded successfully. It will be processed later due to high system load.";} else {// 系统正常,执行正常的视频处理逻辑String processedVideo = processVideo(video);return "Video uploaded and processed successfully: " + processedVideo;}}private boolean isSystemOverloaded() {// 检查系统负载,例如CPU使用率、内存使用率等// 这里只是一个示例,实际情况可能更复杂return getCurrentSystemLoad() > LOAD_THRESHOLD;}private void storeVideoWithoutProcessing(File video) {// 存储视频,不进行处理// 实际实现中会将视频保存到某个存储系统}private String processVideo(File video) {// 视频处理逻辑,如转码、压缩等// 返回处理后的视频信息return "processedVideoInfo";}private double getCurrentSystemLoad() {// 获取当前系统负载,如CPU、内存使用率// 这里返回一个模拟值return Math.random() * 100; // 假设100是最大负载}private static final double LOAD_THRESHOLD = 75.0; // 假设超过75%的系统负载就认为是过载
}

在这个示例中,uploadVideo 方法首先检查系统是否过载(通过 isSystemOverloaded 方法)。如果系统过载,就执行降级策略(storeVideoWithoutProcessing 方法),只是简单地存储视频而不进行处理,并返回给用户一个提示信息,告知他们视频将在系统负载降低后处理。如果系统未过载,则正常执行视频处理逻辑。

通过这种降级策略,即使在系统资源紧张时,用户仍然可以上传视频,而平台的核心功能(视频观看)也不会受到影响。这有助于提高用户体验和系统的整体稳定性。

限流 (Rate Limiting)

假设我们有一个在线电商平台,其中的商品详情页面在大型促销活动期间会吸引大量用户访问。为了防止服务器因为突然增加的流量而崩溃,我们可以实现一个限流策略,确保系统在任何时间点都不会超过其处理能力。

示例场景

在商品详情页面,除了展示商品信息外,还可能有一些额外的服务,比如显示用户评论、推荐相似商品等。这些服务对于提升用户体验很重要,但在流量高峰期,为了保持整个系统的稳定性,我们可能需要对这些不是核心的服务进行限流。

限流实现

假设我们决定对显示用户评论的服务进行限流。下面是一个简化的示例,展示了如何应用限流机制:

import java.util.concurrent.Semaphore;public class CommentsService {// 限流器,允许的最大并发请求量设置为100private final Semaphore rateLimiter = new Semaphore(100);public String fetchComments(String productId) {if (rateLimiter.tryAcquire()) {try {// 获取评论的逻辑return getCommentsFromDatabase(productId);} finally {rateLimiter.release(); // 确保在获取评论后释放许可}} else {// 达到限流条件时,返回一个友好的提示或执行其他逻辑return "Due to high traffic, comments are temporarily unavailable. Please try again later.";}}private String getCommentsFromDatabase(String productId) {// 模拟从数据库获取评论的逻辑// 这里只是返回一个示例字符串return "Comments for product " + productId;}
}

在这个示例中,CommentsService 类用于获取商品的用户评论。我们使用 Semaphore 作为限流器,它的构造函数接受一个参数,表示同时允许的最大并发请求量(在这个例子中设置为100)。在处理获取评论的请求时,我们首先尝试从 Semaphore 获取一个许可(通过 tryAcquire 方法)。如果成功(即当前的并发请求数未达到限制),则继续执行获取评论的逻辑;如果失败(即已达到并发请求量的限制),则直接返回一条提示信息,告诉用户评论服务暂时不可用。

限流的好处

通过这种方式,我们可以确保即使在访问量剧增的情况下,获取评论的服务也不会对系统造成过大压力,从而保护了电商平台的核心服务(如商品浏览、下单等)的稳定性和可用性。此外,通过返回友好的提示信息,也能在一定程度上维护良好的用户体验。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/689189.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

MyBatis基础学习

一、MyBatis简介 二、MyBatis-HelloWorld 三、MyBatis-全局配置文件 四、MyBatis-映射文件 五、MyBatis-动态SQL 六、MyBatis-缓存机制 七、MyBatis-Spring整合 八、MyBatis-逆向工程 九、MyBatis-工作原理 十、MyBatis-插件开发

在ChatGPT时代,出国留学如何避免掉入学术不端重灾区?

近日&#xff0c;哈佛校长克洛迪娜盖伊在校园“反犹风波”中因立场问题被迫辞职。此外&#xff0c;哈佛大学相关调查委员会还发现盖伊在学术论文中存在错误引用资料来源等问题。对于种种学术不端行为&#xff0c;留学生如何防范&#xff1f;在ChatGPT时代&#xff0c;出国留学如…

SpringBoot助力!轻松实现微信模版消息推送

本篇文章的主题是 如何通过springboot来实现微信的模版消息推送 实现效果&#xff1a; 在当今的信息化时代&#xff0c;微信作为国人最为常用的通讯工具之一&#xff0c;已经不仅仅是一个简单的社交应用&#xff0c;更是连接人与服务、人与信息的桥梁。企业微信模板消息作为…

python毕设选题 - 大数据商城人流数据分析与可视化 - python 大数据分析

文章目录 0 前言课题背景分析方法与过程初步分析&#xff1a;总体流程&#xff1a;1.数据探索分析2.数据预处理3.构建模型 总结 最后 0 前言 &#x1f525; 这两年开始毕业设计和毕业答辩的要求和难度不断提升&#xff0c;传统的毕设题目缺少创新和亮点&#xff0c;往往达不到…

IT 行业哪些证书含金量高

IT行业的高含金量证书通常与当前市场需求、技术趋势以及特定领域的专业知识相关。以下是一些普遍认为含金量高的IT证书&#xff0c;这些证书覆盖了不同的专业领域&#xff0c;包括网络安全、云计算、系统管理、项目管理等&#xff1a; CISSP (Certified Information Systems Se…

CSS如何将图片变为圆形?

我们可以通过 border-radius 属性实现图片圆角。 我们上传图片后&#xff0c;将它属性值设置为图片尺寸的一半&#xff0c;即可将正方形图片设置为圆形。 <!DOCTYPE html> <html lang"en"> <head><meta charset"utf-8"><titl…

Arduino的PWM应用:舵机控制

目录 概述 1 认识舵机 1.1 舵机分类 1.2 舵机结构 1.3 舵机工作原理 1.4 舵机控制原理 1.5 舵机工作参数介绍 1.5.1 基本参数 1.5.2 舵机扭矩 2 系统硬件 2.1 硬件模块介绍 2.1.1 SG90 9G 360舵机 2.1.2 SG90 9G 180舵机 2.1.3 Arduino UNO 主板 2.2 整体结构…

2024免费版EasyRecovery软件有哪些功能限制?

EasyRecovery软件的主要功能包括&#xff1a; 数据恢复&#xff1a;这是EasyRecovery软件的核心功能。它可以恢复因各种原因丢失或删除的数据&#xff0c;无论是由于磁盘格式化、文件删除还是其他因素。EasyRecovery使用高级的数据恢复算法&#xff0c;能够快速扫描整个磁盘&a…

spring boot自动装配及自动装配条件判断

第一步需要在pom.xml文件指定需要导入的坐标 要是没有自动提示需要检查maven有没有 实现代码 /*springboot第三方自动配置实现方法 * 什么是自动配置 自动配置就是springboot启动自动加载的类不需要在手动的控制反转自动的加入bean中 * * *//*第一种方案包扫描 不推荐因为繁琐…

普中51单片机学习(十)

动态数码管 数码管显示原理 动态显示的特点是将所有数码管的段选线并联在一起&#xff0c;由位选线控制是哪一位数码管有效。选亮数码管采用动态扫描显示。所谓动态扫描显示即轮流向各位数码管送出字形码和相应的位选&#xff0c;利用发光管的余辉和人眼视觉暂留作用&#xf…

如何学习和规划类似ChatGPT这种人工智能(AI)相关技术

学习和规划类似ChatGPT这种人工智能&#xff08;AI&#xff09;相关技术的路径通常包括以下步骤&#xff1a; 学习基础知识&#xff1a; 学习编程&#xff1a;首先&#xff0c;你需要学习一种编程语言&#xff0c;例如Python&#xff0c;这是大多数人工智能项目的首选语言。数学…

Leetcode 115 不同的子序列

题意理解&#xff1a; 给你两个字符串 s 和 t &#xff0c;统计并返回在 s 的 子序列 中 t 出现的个数&#xff0c;结果需要对 109 7 取模。 即此题可以理解为&#xff1a;从s中删除元素去构造t,有多少种方法 或者也可以理解为&#xff1a;s中按顺序取t,有多少个 则一定有s和t…

unity学习(15)——服务器组装(1)

1.新建好的c#项目如下&#xff1a; 文件夹中内容如下&#xff1a; 此时已经可以通过vs2022打开.sln文件&#xff0c;就可以打开项目了。 2.我们把逆向后&#xff08;主程序&#xff09;的内容的代码粘贴过去。有些逆向功底&#xff0c;很快可以定位到&#xff0c;服务器的入口…

【leetcode热题】从中序与后序遍历序列构造二叉树

给定两个整数数组 inorder 和 postorder &#xff0c;其中 inorder 是二叉树的中序遍历&#xff0c; postorder 是同一棵树的后序遍历&#xff0c;请你构造并返回这颗 二叉树 。 示例 1: 输入&#xff1a;inorder [9,3,15,20,7], postorder [9,15,7,20,3] 输出&#xff1a;[3…

GaiaDB-X 获选北京国家金融科技认证中心「数据领域首批专项示范与先行单位」

2023 年 12 月 21 日至 22 日&#xff0c;「2023北京国际金融安全论坛暨金融科技标准认证生态大会」在北京金融安全产业园举办。百度智能云分布式数据库 GaiaDB-X 产品荣登「数据领域首批专项示范与先行单位」名单&#xff0c;并获得了由北京国家金融科技认证中心颁发的「数据产…

设计模式(行为型模式)模板方法模式

目录 一、简介二、模板方法模式2.1、抽象模板类2.2、退款申请2.3、转账申请2.4、使用 三、优点与缺点 一、简介 模板方法模式 又称 模板模式&#xff08;Template Pattern&#xff09;是一种行为设计模式&#xff0c;它定义了一个算法的框架&#xff0c;并允许子类重写特定步骤…

软考29-上午题-排序

一、排序的基本概念 1-1、稳定性 稳定性指的是相同的数据所在的位置经过排序后是否发生变化。若是排序后&#xff0c;次序不变&#xff0c;则是稳定的。 1-2、归位 每一趟排序能确定一个元素的最终位置。 1-3、内部排序 排序记录全部存放在内存中进行排序的过程。 1-4、外部…

【C++ QT项目2】——高仿安信可串口调试助手

【C QT项目2】——高仿安信可串口调试助手 1. 项目概述2. 项目UI设计3. 串口通信核心代码开发3.1 QSerialPort介绍及示例3.2 扫描系统串口3.3 数据的收发3.4 定时发送&#xff08;QT定时器&#xff09;3.5 HEX显示与发送 4. 串口调试助手功能的优化4.1 串口的实时扫描4.2 获取系…

Backtrader 文档学习- 整体架构功能分析理解

Backtrader 文档学习- 架构功能分析理解 1. 概述 backtrader是一个用于开发和执行交易策略的Python框架。它提供了一套完整的工具和功能&#xff0c;使得用户可以方便地进行策略回测、实盘交易以及数据分析。 backtrader的入口为Cerebro类&#xff0c;该类将所有输入(Data F…

Linux中获取字符串长度与获取子字符串

一、 获取字符串长度 #!/bin/bash string"jobs" echo ${string} # 输出结果: jobs echo ${#string} # 输出结果: 4 二、提取子字符串 以下实例从字符串第 2 个字符开始截取 4 个字符&#xff1a; #!/bin/bash str"敢于亮剑决不后退" echo ${str:2:…