高可用系列四:loadbalancer 负载均衡

负载均衡可以单独使用,也常常与注册中心结合起来使用,其需要解决的问题是流量分发,这是就需要定义分发策略,当然也包括了故障切换的能力。

故障切换

故障切换是负载均衡的基本能力,和注册中心结合时比较简单,直接获取注册中心中可用的健康服务列表,根据负载均衡策略进行数据分发,因为注册中心往往存在健康服务延迟下线的问题,因此更完善的机制是在重试时优先其他节点。

在没有注册中心的场景下,需要类似熔断的策略,进行目标服务健康状态标记,被熔断时将目标实例加入熔断名单,单位时间内进行恢复验证,验证成功后恢复服务健康状态

在以上策略外,往往还会需要一个兜底的方案,即所有实例都无法匹配上时,一般也会从所有列表中随机选择一个实例进行请求分发

分发策略

另一个核心是分发策略,常见的策略有:

  1. 随机选择策略,即请求进来以后,随机选择一个健康实例进行分发
  2. 权重策略,根据权重,分发请求时可以根据权重概率进行计算,权重高的实例有更高的概率被分发到请求
  3. 轮询策略,实例列表依次分发,相当于均匀分发请求到实例上
  4. 标签策略,可以根据请求标签,优先选择相同或满足一定条件的标签查找实例进行分发,在此基础上,便可以实现同区机房优先、版本兼容优先(即灰度)等衍生场景,后面的技巧中也是使用了该特性进行变种满足特殊需求。当然这个标签需要往下传递,从请求到各个服务节点,可以透传或者根据本身服务的特点进行修改标签。

网络策略也不是只固定一种,比如标签策略和其他策略混合使用,先使用标签策略减小实例范围,再根据其他策略进行二次实例选择。

技巧——巧用开发环境

众所周知,在微服务开发中,因为服务切分的问题,往往开发者的电脑”负担“也会很重,执行效率也会收到影响。很多时候,不仅要运营正在开发的服务,还需要运行一系列的相关服务才能测试全流程。运行服务要花时间,电脑也越来越卡,影响开发测试效率。

一般公司都会建立公共的开发测试环境,里面会运行所有的服务,这时,如果可以使用公共环境结合测试本地服务,本地只需要运行有修改的服务,同时又不影响其他人的测试,那么整体的开发测试效率会大大提升,这里提供一个方法和思路:

  1. 对接口进行打标,比如增加特定的请求 header
  2. 本地服务启动时,使用特定的服务标签运行,比如nacos中可以扩展metaData
  3. 服务接收到请求后,负载均衡先检查是否有请求相同标签的实例,有则优先访问相同标签实例,没有则优先选择没有标签的实例,最后选择其他实例
  4. 开发环境可能部署在特殊的内网中,此时需要改造特殊标签实例和没有特殊标签实例的请求地址,重定向到特定的网络端口进行分发

总结

负债均衡也是高可用中很重要的一环,而且巧用负载均衡,还可以实现开发环境中降本增效的效果。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/6230.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

机器学习之基于Jupyter中国环境治理投资数据分析及可视化

欢迎大家点赞、收藏、关注、评论啦 ,由于篇幅有限,只展示了部分核心代码。 文章目录 一项目简介 二、功能三、系统四. 总结 一项目简介 机器学习之基于Jupyter中国环境治理投资数据分析及可视化项目是一个结合了机器学习和数据可视化技术的项目&#xf…

AMD GPU体系知识大全

AMD(Advanced Micro Devices)在GPU领域同样具有丰富的产品线和架构体系,以下是一个关于AMD GPU体系的概览: 架构系列: Vega架构:发布于2017年,特点是采用高带宽缓存控制器(HBCC&…

JavaScript百炼成仙自学笔记——11

函数七重关之四(闭包) function add(){return function(){} } function test(){var a 0;return function(){console.log(a);} } 这样子调用:test()(); 这就是闭包! 这样做有什么好处呢? //先获取这个内部函数 var i…

「笔试刷题」:添加逗号

一、题目 描述 对于一个较大的整数 N(1<N<2,000,000,000) 比如 980364535&#xff0c;我们常常需要一位一位数这个数字是几位数&#xff0c;但是如果在这 个数字每三位加一个逗号&#xff0c;它会变得更加易于朗读。 因此&#xff0c;这个数字加上逗号成如下的模样&a…

【基于MAX98357的Minimax(百度)长文本语音合成TTS 接入教程】

【基于MAX98357的Minimax&#xff08;百度&#xff09;长文本语音合成TTS 接入教程】 1. 前言2. 先决条件2.1 硬件准备2.2 软件准备2.3 接线 3. 核心代码3.1 驱动实现3.2 代码解析 4. 播放文本5. 结论 视频地址&#xff1a; SeeedXIAO ESP32S3 Sense【基于MAX98357的Minimax&am…

富文本编辑器 iOS

https://gitee.com/klkxxy/WGEditor-mobile#wgeditor-mobile 采用iOS系统浏览器做的一款富文本编辑器工具。 原理就是使用WKWebView加载一个本地的一个html文件&#xff0c;从而达到编辑器功能的效果&#xff01; 由于浏览器的一些特性等&#xff0c;富文本编辑器手机端很难做…

链表的回文结构(详解)

链表的回文结构&#xff08;详解&#xff09; 题目&#xff1a; 链表的回文结构 对于一个链表&#xff0c;请设计一个时间复杂度为O(n),额外空间复杂度为O(1)的算法&#xff0c;判断其是否为回文结构。 给定一个链表的头指针A&#xff0c;请返回一个bool值&#xff0c;代表…

Web前端一套全部清晰 ⑥ day4 CSS.1 基础选择器、文字控制属性

后来的我不在抱怨 所有的事与愿违都是我能力或者判断力不足 仅此而已 —— 24.5.1 一、CSS定义 1. 将CSS放在html文件的<style>标签中 层叠样式表(Cascading style Sheets&#xff0c;缩写为 CSS)&#xff0c;是一种 样式表 语言&#xff0c;用来描述 HTML 文档的呈现(美…

轴承故障检测(分类任务)+傅里叶变化+CNN+matlab

1 介绍 使用西储大学的轴承数据集&#xff0c;其实用哪个都行&#xff0c;可能最后的精度会不一样&#xff0c;先读取数据&#xff0c;然后使用傅里叶转换为图像&#xff0c;然后搭建cnn模型&#xff0c;将图像大小转换为模型使用的大小&#xff0c;例如resnet50&#xff0c;输…

机器学习每周挑战——二手车车辆信息交易售价数据

这是数据集的截图 目录 背景描述 数据说明 车型对照&#xff1a; 燃料类型对照&#xff1a; 老规矩&#xff0c;第一步先导入用到的库 第二步&#xff0c;读入数据&#xff1a; 第三步&#xff0c;数据预处理 第四步&#xff1a;对数据的分析 第五步&#xff1a;模型建…

【linuxC语言】空洞文件

文章目录 前言一、空洞文件1.1 空洞文件的介绍1.2 用途 二、示例代码总结 前言 在 Linux 系统编程中&#xff0c;空洞文件是一种特殊类型的文件&#xff0c;它包含了逻辑上的空洞&#xff0c;也就是说文件中的某些部分并没有实际写入数据。尽管文件在逻辑上可能非常大&#xf…

【前端学习——react文档】学习react文档笔记(持续更新)

React官方文档 我不一定按照文档顺序记录 jsx语法系列 JSX 中通过大括号使用 JavaScript 可以在哪使用大括号 &#xff1f; 用作 JSX 标签内的文本&#xff1a;<h1>{name}s To Do List</h1> 是有效的&#xff0c;但是 <{tag}>Gregorio Y. Zaras To Do Lis…

docker系列9:容器卷挂载(下)

传送门 docker系列1&#xff1a;docker安装 docker系列2&#xff1a;阿里云镜像加速器 docker系列3&#xff1a;docker镜像基本命令 docker系列4&#xff1a;docker容器基本命令 docker系列5&#xff1a;docker安装nginx docker系列6&#xff1a;docker安装redis docker系…

预训练模型介绍

一、什么是GPT GPT 是由人工智能研究实验室 OpenAI 在2022年11月30日发布的全新聊天机器人模型, 一款人工智能技术驱动的自然语言处理工具 它能够通过学习和理解人类的语言来进行对话, 还能根据聊天的上下文进行互动,能完成撰写邮件、视频脚本、文案、翻译、代码等任务 二、 为…

【JVM】内存调优——内存泄漏、内存溢出

内存调优 什么是内存泄漏、内存泄漏&#xff1f; 内存泄漏&#xff1a;在Java中如果不再使用一个对象&#xff0c;但是该对象依然在GC ROOT的引用链上&#xff0c;这个对象就不会被垃圾回收器回收。内存溢出&#xff1a;内存的使用量超过了Java虚拟机可以分配的上限&#xff…

如何让 PDF 书签从杂乱无序整洁到明丽清新

1、拉取书签&#xff08;详细步骤看文末扩展阅读&#xff09; 原状态 —— 杂乱无序 自动整理后的状态 —— 错落有致&#xff0c;但摩肩接踵 2、开始整理 全选自动整理后的书签&#xff0c;剪切 访问中英混排排版优化 - 油条工具箱 https://utils.fun/cn-en 1 粘贴 → 2 …

【IDEA】IDEA常用快捷键

Windows系统 快捷键功能备注CtrlShiftEnter格式化本行&#xff0c;并鼠标跳转到下一行CtrlAltL格式化代码Ctrli快速实现接口方法CtrlShiftU快速实现大小写转换CtrlAlt鼠标左键快速进入方法实现内部CtrlAlt←退回上一步鼠标所在地方CtrlAlt→回到刚才鼠标所在地方Ctrl空格代码智…

020、Python+fastapi,第一个Python项目走向第20步:ubuntu 24.04 docker 安装mysql8、redis(一)

系列文章 pythonvue3fastapiai 学习_浪淘沙jkp的博客-CSDN博客https://blog.csdn.net/jiangkp/category_12623996.html 前言 docker安装起来比较方便&#xff0c;不影响系统整体&#xff0c;和前面虚拟环境有异曲同工之妙&#xff0c;今天把老笔记本T400拿出来装了个ubuntu24…

Covalent Network(CQT)为 Arbitrum 生态提供 250 万美元的资助,以促进 Web3 的创新与发展

Covalent Network&#xff08;CQT&#xff09;作为 Web3 领先的“数据可用性”层&#xff0c;宣布将提供 250 万美元的资金以支持 Arbitrum 生态项目&#xff0c;包括 Arbitrum One、Nova、Orbit 或 Stylus。此举旨在通过提供资源和帮助&#xff0c;推动利用 Arbitrum 网络上 C…

【JVM】JMM 内存模型

JMM 概述 内存模型 java[内存模型](Java Memory Model) 和 [内存结构]JMM规定了在多线程下对共享数据的读写时&#xff0c;对数据的原子性 有序性 可见性的规则和保障。 原子性 原子性问题: i和i–不是原子性操作! 所以一个i指令会在执行过程中被另一个线程执行! 问题分…