服务器雪崩的应对策略之----熔断机制

熔断机制(Circuit Breaker)是一种保护系统稳定性的重要手段。它的主要目的是防止系统在依赖的服务出现问题时,继续发送请求,从而保护系统免受进一步的影响。熔断机制通过监控请求的成功和失败率,在检测到故障率超过预设阈值时,自动切换到熔断状态,停止对故障服务的请求。熔断状态一段时间后,再尝试恢复服务的调用。

常见的熔断机制

  • 熔断机制的三种状态
  • 示例代码
  • 代码解读
  • 结论

熔断机制的三种状态

  1. Closed(闭合状态)

    • 正常状态下,所有请求都会被发送到依赖服务。
    • 监控请求的成功和失败情况。
  2. Open(断开状态)

    • 当故障率超过阈值时,熔断器进入断开状态。
    • 此时,所有请求都会立即失败或返回备用方案,而不会发送到依赖服务。
  3. Half-Open(半开状态)

    • 在断开状态保持一段时间后,熔断器尝试恢复部分请求。
    • 如果部分请求成功,则恢复到闭合状态;如果仍然失败,则回到断开状态。

示例代码

下面的示例代码展示了一个简单的熔断机制实现:

#include <iostream>
#include <chrono>
#include <thread>
#include <mutex>enum class CircuitBreakerState 
{Closed,Open,HalfOpen
};class CircuitBreaker 
{
public:CircuitBreaker(int failure_threshold, int recovery_timeout): state(CircuitBreakerState::Closed),failure_count(0),failure_threshold(failure_threshold),recovery_timeout(recovery_timeout) {}bool allow_request() {std::lock_guard<std::mutex> lock(mutex);auto now = std::chrono::steady_clock::now();if (state == CircuitBreakerState::Open) {if (std::chrono::duration_cast<std::chrono::milliseconds>(now - last_failure_time).count() > recovery_timeout) {state = CircuitBreakerState::HalfOpen;return true;  // Allow a limited number of requests to test recovery} else {return false;}}return true;}void record_success() {std::lock_guard<std::mutex> lock(mutex);failure_count = 0;state = CircuitBreakerState::Closed;}void record_failure() {std::lock_guard<std::mutex> lock(mutex);failure_count++;if (failure_count >= failure_threshold) {state = CircuitBreakerState::Open;last_failure_time = std::chrono::steady_clock::now();}}private:CircuitBreakerState state;int failure_count;int failure_threshold;int recovery_timeout;  // in millisecondsstd::chrono::steady_clock::time_point last_failure_time;std::mutex mutex;
};bool mock_service_call() 
{static int counter = 0;counter++;// Simulate a service that fails 50% of the timereturn counter % 2 == 0;
}int main() 
{CircuitBreaker breaker(3, 5000);  // Allow 3 failures before opening circuit, 5 seconds recovery timeoutfor (int i = 0; i < 20; ++i) {if (breaker.allow_request()) {if (mock_service_call()) {std::cout << "Request " << i << " succeeded\n";breaker.record_success();} else {std::cout << "Request " << i << " failed\n";breaker.record_failure();}} else {std::cout << "Request " << i << " blocked by circuit breaker\n";}std::this_thread::sleep_for(std::chrono::milliseconds(500));  // Simulate time between requests}return 0;
}

代码解读

  1. CircuitBreaker类:封装熔断器的状态管理逻辑。

    • allow_request():决定是否允许请求通过熔断器。
    • record_success():记录成功的请求,重置失败计数,并将状态恢复为闭合状态。
    • record_failure():记录失败的请求,增加失败计数,并在失败计数达到阈值时将状态设置为断开状态。
  2. mock_service_call():模拟依赖服务的请求。这里简单地模拟了一个服务,它有50%的概率失败。

  3. main函数:模拟一系列请求,并展示熔断机制如何工作。

结论

熔断机制是一种有效的保护系统的方法,尤其是在依赖外部服务时。通过合理的熔断配置,可以避免系统因为外部服务故障而陷入崩溃状态,从而提升系统的稳定性和可靠性。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/30482.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

python全栈开发《10.数据类型之初识列表类型》

1.什么是列表 其实在生活中&#xff0c;有很多种排队的现象。比如看电影要排队买票&#xff0c;上地铁的时候要排队安检。在生活中&#xff0c;排队的是人&#xff0c;为了统一做一件事&#xff0c;而排成队伍&#xff0c;逐个的去等待执行这个任务&#xff0c;每个人都是执行这…

平衡查找树(数据结构篇)

数据结构之平衡查找树 平衡查找树(AVL树) 概念&#xff1a; 为了防止因为插入删除而导致的树结构不平衡(通常我们删除节点总是对右子树的最小值节点替代操作&#xff0c;而不是交替的利用左子树的最大值节点替代&#xff0c;这就将导致左子树的平均深度大于右子树平均深度&a…

基于Java的高校校园点餐系统

开头语&#xff1a; 你好&#xff0c;我是计算机专业的学长&#xff0c;如果你对高校校园点餐系统感兴趣或有相关开发需求&#xff0c;欢迎联系我。 开发语言&#xff1a;Java 数据库&#xff1a;MySQL 技术&#xff1a;JSP技术 工具&#xff1a;Eclipse、Tomcat 系统展示…

分布式用例执行

前言 这两天趁着有时间&#xff0c;我疯狂的码字了~~ 背景 我们公司是做人工智能平台的&#xff0c;什么是人工智能呢&#xff1f; 大数据 机器学习。大数据运行的基本就不快。机器学习算法运行起来也是慢的让人泪流满面。在我们的集群配置下&#xff0c;我使用一个 5M 的数…

基于IDEA的Maven(properties属性配置)

&#xff08;property &#xff1a;财产&#xff09;properties&#xff1a;它的复数。 同样也是基于上篇博客进行学习。&#xff08;具体的全部项目代码和结构可以去查看上篇...&#xff09; <properties><!--当前jdk版本 , 这一步可以完全省略--><maven.com…

【技巧】Leetcode 137. 只出现一次的数字 II【中等】

只出现一次的数字 II 给你一个整数数组 nums &#xff0c;除某个元素仅出现 一次 外&#xff0c;其余每个元素都恰出现 三次 。请你找出并返回那个只出现了一次的元素。 你必须设计并实现线性时间复杂度的算法且使用常数级空间来解决此问题。 示例 1&#xff1a; 输入&…

2024青海三支一扶招1910人7月6日笔试

&#x1f4e2;2024年青海省三支一扶计划招募1910人公告已发布&#xff01; 小&#x1f004;️帮大家整理好了考试关键时间点&#xff1a; ★ 报名时间&#xff1a;6月20日至6月25日 ★ 报名网站&#xff1a;青海省人事考试信息网&#xff08;www.qhpta.com&#xff09; ★ 网上…

android studio构建项目报错Could not create an instance of type com.android.build.api.variant.impl.Applicat

Could not create an instance of type com.android.build.api.variant.impl.ApplicationVariantImpl 这个错误通常是由于Gradle插件版本不兼容导致的。你可能正在使用的Gradle插件版本与你的Android Studio版本不兼容。 要解决这个问题&#xff0c;你可以尝试以下解决方法&a…

音视频入门基础:H.264专题(3)——EBSP, RBSP和SODB

音视频入门基础&#xff1a;H.264专题系列文章&#xff1a; 音视频入门基础&#xff1a;H.264专题&#xff08;1&#xff09;——H.264官方文档下载 音视频入门基础&#xff1a;H.264专题&#xff08;2&#xff09;——使用FFmpeg命令生成H.264裸流文件 音视频入门基础&…

行为树行为树行为树

行为树由一个个节点组成 结构&#xff1a;树状结构运行流程&#xff1a;从根节点开始自顶向下往下遍历&#xff0c;每经过一个节点就执行节点对应的功能。 我们规定&#xff0c;每个节点都提供自己的excute函数&#xff0c;返还执行失败/成功结果。 然后根据不同节点的执行结…

C++ Primer 学习 -- Day 2

第 3 章知识点总结 3.1 .1 命名空间的using 声明提醒 3.2.1 定义和初始化 string 对象直接初始化和拷贝初始化 3.2.2 string 对象上的操作提醒比较 string 对象( vector 也一样 )字面值和 string 对象相加提醒 3.2.3处理 string 对象中的字符建议处理每个字符&#xff1f;使用基…

国产数据库中读写分离实现机制

在数据库高可用架构下会存在1主多备的部署&#xff0c;备节点可以根据业务场景分发一部分流量以充分利用资源&#xff0c;并减轻主库的压力&#xff0c;因此在数据库的功能上需要读写分离来实现。 充分利用备节点的资源&#xff0c;提升业务的吞吐量&#xff1b;防止运维等非业…

《算法设计与分析》第五六章:回溯法与分支限界法

文章目录 回溯法分支限界法一、本章作业1.活动安排问题2.旅行商问题3.单源最短路径4.任务分配问题 二、算法积累1.回溯法求解01背包问题2.回溯法求解最大团问题3.回溯法求解n皇后问题4.回溯法求解地图着色5.回溯法求解哈密尔顿图6.回溯法求活动安排7.分支限界法求01背包问题8.分…

Flutter第十三弹 路由和导航

目标&#xff1a; 1.Flutter怎么创建路由&#xff1f; 2.怎么实现路由跳转&#xff1f;页面返回&#xff1f; 一、路由 1.1 什么是路由&#xff1f; 路由(Route)在移动开发中通常指页面&#xff08;Page&#xff09;&#xff0c;在Android中通常指一个Activity。所谓路由管…

小功率电机驱动方案中如何选择驱动IC

小功率电机驱动方案及驱动IC的选择 电机驱动作为工业4.0中工厂自动化整个闭环中的执行器环节&#xff0c;其性能好坏直接影响到整个闭环的性能。因此&#xff0c;工业4.0对电机驱动提出了更高的性能和功能要求&#xff0c;例如更快的响应速度、更高的带宽、更高精度的位置和速…

前端框架中的路由(Routing)和前端导航(Front-End Navigation)

聚沙成塔每天进步一点点 本文回顾 ⭐ 专栏简介前端框架中的路由&#xff08;Routing&#xff09;和前端导航&#xff08;Front-End Navigation&#xff09;1. 路由&#xff08;Routing&#xff09;1.1 定义1.2 路由的核心概念1.2.1 路由表&#xff08;Route Table&#xff09;1…

多模态大模型:基础架构

大模型技术论文不断&#xff0c;每个月总会新增上千篇。本专栏精选论文重点解读&#xff0c;主题还是围绕着行业实践和工程量产。若在某个环节出现卡点&#xff0c;可以回到大模型必备腔调或者LLM背后的基础模型重新阅读。而最新科技&#xff08;Mamba,xLSTM,KAN&#xff09;则…

gitee添加别人的仓库后,在该仓库里添加文件夹/文件

一、在指定分支里添加文件夹&#xff08;如果库主没有创建分支&#xff0c;自己还要先创建分支&#xff09; eg:以在一个项目里添加视图文件为例&#xff0c;用Echarts分支在usr/views目录下添加Echarts文件夹&#xff0c;usr/views/Echarts目录下添加index.vue 1.切换为本地仓…

Linux系统安装Ruby语言

Ruby是一种面向对象的脚本语言&#xff0c;由日本的计算机科学家松本行弘设计并开发&#xff0c;Ruby的设计哲学强调程序员的幸福感&#xff0c;致力于简化编程的复杂性&#xff0c;并提供一种既强大又易于使用的工具。其语法简洁优雅&#xff0c;易于阅读和书写&#xff0c;使…

重学java 66.IO流 转换流

且敬我疯狂&#xff0c;生命中不败的篇章 —— 24.6.11 一、字符编码 计算机中储存的信息都是用二进制数表示的&#xff0c;而我们在屏幕上看到的数字、英文、标点符号、汉字等字符是二进制数转换之后的结果。[按照某种规则&#xff0c;将字符存储到计算机中&#xff0c;称为编…