【SpingCloud】客户端与服务端负载均衡机制,微服务负载均衡NacosLoadBalancer, 拓展:OSI七层网络模型

客户端与服务端负载均衡机制

可能有第一次听说集群和负载均衡,所以呢,我们先来做一个介绍,然后再聊服务端与客户端的负载均衡区别。

集群与负载均衡

负载均衡是基于集群的,如果没有集群,则没有负载均衡这一个说法。 先来看什么是集群

从图中可以看到,集群就是由同一个服务进行的水平扩展,只需要复制多方,就能组成一个群体,这个群体需要使用负载均衡器维系在一起,他们才能成为一个集群整体,才能说的上是一个集群架构。如果没有负载均衡器,单独靠自己无法成为一个整体,只能是单独的个体,所以负载均衡器也是他们和外部联系的沟通渠道,是一个领头羊。此外集群也提供了高可用的目的,如果只有一个节点,挂了则无法再继续为用户提供服务了,显然这不符合如今的市场,所以高可用一定要落地的。

负载均衡器: 此外,负载均衡器是可以用于平摊流量的,如果现在流量有300万,那么可以每台节点平摊100万的请求,这样并发量就提升了,压力也就平摊了。

多级网关(负载均衡器的类型)

  • 硬负载均衡器:F5,性能非常强大,企业级应用可以完全依靠他,但是,是在太贵了,中小公司是无法承担的,少则几十万,多则上百万,我们的老系统就是用的F5,每年还要150万的维护费用,企业负担太大了。传统软件用F5的会比较多。
  • 软负载均衡器:解决中小企业痛点,很便宜,通过软件来实现负载均衡。只需要安装配置则可以实现负载均衡的效果,比如Nginx,Apache,Haproxy,都可以,那么这也是目前java生态里用的最多的方式。

此外还有基于网络模型的四层负载和七层负载:

  • 四层代理:基于TCP,比如LVS+Keepalived,这玩意就是云负载均衡器的底层,如果自己部署需要有独立的机房。配置起来相对比较麻烦一些,这个我在架构师课程中有手把手的搭建以及配置,有兴趣可以了解一下。
  • 七层代理:基于HTTP,最具有代表的则是Nginx了,后续我们也会用到,这也是网关,所以也可以称之为7层网关。

四层和七层的理解区别,四层制作请求转发,不会处理请求,而七层可以处理请求的,比如添加headers请求头,修改cookie,甚至设置缓存,对数据压缩等等,所以我们的微服务网关gateway也是四层网关的负载均衡器。所以,相对来说四层的功能性会比七层少很多,因为他不能处理请求,正因为这样,他的处理执行能力是相当强大的,要比七层快很多。

举个例子,你到园区要面试,园区保安大爷只会跟你说,你往后走,左转走到底,就是我们公司了。这是七层,他不会带你去。而你到了大楼,大楼的前台会领着你到公司,带着你过去,那么他就是七层负载了。这样你就可以更好的理解四层和七层的区别了。

多级网关模型:

负载均衡算法

  • 轮询
  • 权重
  • url_hash
  • ip_hash

服务端与客户端负载均衡

  • 服务端负载均衡 上面所说的都是基于服务端的负载均衡器,啥意思,这是因为请求的分发是需要通过在服务端进行计算的,如下图:

  • 客户端负载均衡 客户端负载均衡拉取集群列表是相反,他会拉取ip列表到本地进行算法,随后携带地址去请求目标接口,如下图:

所以相对的,使用客户端负载均衡器的一个整体性能会更高一些,因为压力在客户端,服务端不需要进行计算了,如果是服务端负载均衡器,那么所有请求都会在一个地方进行计算,那么这台节点就会很热,所以往往使用的云服务器硬件配置也会更高更好一些。

此外,客户端负载均衡是支持动态扩容的,因为他是去中心化的,如果是服务端负载,那么每次扩展节点都需要修改配置并且重启;而客户端则不需要,直接复制一个新节点就行了,不需要做额外代码或配置的修改,非常方便。

微服务负载均衡NacosLoadBalancer

LoadBalancer 其实我们之前在演示用户集群的时候其实就加入了这个依赖,他就是用于处理微服务的负载均衡的,他有自己的一套负载均衡算法。早期其实使用的是Ribbon,只不过目前因为种种原因弃用了。现在所使用的都是LoadBalancer,而且这是SpringCloud官方出的客户端负载均衡器,目的就是用来替代Ribbon的。

测试负载均衡:

和用户微服务一样,构建2~3个工作微服务集群:

配置集群服务:

网关排除url,为了方便测试:

默认模式就是轮询规则。

Nacos的负载均衡

在nacos中设置微服务的负载均衡权重比例。但是设置后不生效。

早期版本自带ribbon,可以直接在容器中构建一个Bean对象的NacosRule即可。新版本SpringCloudAibaba已经没有ribbon了。

所以新版本可以直接在yml中进行配置即可: 在网关和用户服务中添加:

spring:cloud:loadbalancer:nacos:enabled: true

最后请求访问这个接口,观察结果即可。

拓展:OSI七层网络模型

网络模型就是 OSI(Open System Interconnect),意思为开放网络互联,是由国际标准化组织(ISO)和国际电报电话咨询委员会(CCITT)共同出版的,他是一种网络互联模型,也是一种规范。

网络模型分为七层,也就是当用户发起请求到服务器接收,会历经七道工序,或者说用户利用互联网发送消息给另一个用户,也会历经七道工序。这七层可以分为如下:

| 层级 | 名称 | 说明 | | --- | --- | --- | | 第七层 | 应用层 | 与用户行为交互 | | 第六层 | 表示层 | 定义数据格式以及数据加密 | | 第五层 | 会话层 | 创建、管理以及销毁会话 | | 第四层 | 传输层 | 创建、管理请求端到响应端(端到端)的连接 | | 第三层 | 网络层 | 请求端的IP地址 | | 第二层 | 数据链路层 | 提供介质访问与链路管理 | | 第一层 | 物理层 | 传输介质,物理媒介 |

以上七层每层可以与上下相邻层进行通信。每一层都是非常复杂的,我们不在这里深究,我们以举例的形式来阐述每一层是干嘛的。

  • 应用层:这是面向用户的,最靠近用户,为了让用户和计算机交互,在计算机里会有很多软件,比如eclipse,idea,qq,nginx等,这些都是应用软件,用户可以通过这些应用软件和计算机交互,交互的过程其实就是接口的调用,应用层为用户提供了交互的接口,以此为用户提供交互服务。那么在这一层最常见的协议有:HTTP,HTTPS,FTP,SMTP,POP3等。Nginx在本层,为七层负载均衡。 举例:我要寄一封信给远在天边的老外LiLei,我会打开快递软件下单,这个时候我是用户,快递软件就是应用服务,是建立在计算机上的,提供给用户交互的一种服务或称之为手段。
  • 表示层:该层提供数据格式编码以及加密功能,确保请求端的数据能被响应端的应用层识别。 举例:我写中文给LiLei,他看不懂,这个时候我就会使用翻译软件把中文翻译成英文,随后信中涉及到一些比较隐私的信息我会加密一下,这个时候翻译软件和加密器就充当了表示层的作用,他用于显示用户能够识别的内容。
  • 会话层:会话可以理解为session,请求发送到接受响应的这个过程之间存在会话,会话层就充当了这一过程的管理者,从创建会话到维护会话最后销毁会话。 举例:我每次写信给LiLei都会记录在一个小本本上,寄信时间日期,收信时间日期,这本小本本上存有每次通信记录,这个小本本就相当于是一个会话的管理者。又或者说,我们平时在打电话,首先需要拨打电话,这是建立会话,对方接听电话,此时正在通话(维持并管理会话),通话结束后会话销毁,那么这也是一次会话的生命周期。
  • 传输层:该层建立端到端的连接,他提供了数据传输服务,在传输层通信会涉及到端口号,本层常见的协议为TCP、UDP,LVS就是在传输层,也就是四层负载均衡。 举例:我和LiLei通信过程中会借助快递公司,快递公司会分配快递员取件和寄件,那么这个快递员则充当传输层的作用。
  • 网络层:网络通信的时候必须要有本机IP和对方的IP,请求端和响应端都会有自己的IP的,IP就相当于你家地址门牌号,在网络上云服务器有固定的公网IP,普通计算机也有,只不过是动态IP,运营商每天会分配不同的IP给你的计算机。所以网络层也能称之为IP层,IP是互联网的基础根本。能提供IP分配的设备则为路由器或交换机。 举例:对于拥有固定IP的云服务来说,他们都是由腾讯云、阿里云等这样的供应商提供的,他们为云服务器提供固定ip;电信、移动、联调等运营商为你的计算机动态分配ip,每天都不同;则这些供应商和运营商都是网络层。同理,快递员由物流公司分配和管理,那么物流公司就是网络层咯。
  • 数据链路层:这一层会提供计算机MAC地址,通信的时候会携带,为了确保请求投递正确,所以他会验证检测MAC地址,以确保请求响应的可靠性。 举例:快递员在投递派送的时候,他(或客服)会预先提前打电话给你,确认你家地址对不对、有没有人、货到付款有没有准备好钱等等,这个时候快递员(或客服)就充当了数据链路层的职责。
  • 物理层:端到端请求响应过程中的媒介,物理介质,比如网线、中继器等等设备,都是你在端到端交互过程中不可缺少的基础设备。 举例:快递员在投递的过程中,你写的信会历经一些交通运输工具,比如首先通过飞机运输到国外,在海关统一拿到信以后会通过汽车运输到LiLei所在城市的物流集散地,最后快递员通过三轮电频车寄到LiLei家里,这个时候,飞机、汽车、三轮电瓶车都是物理层的媒介。

那么以上就是七层网络模型,大家需要理解其意义即可。需要注意的是Nginx存在于第七层,属于七层负载均衡;而第四层会有LVS,属于四层负载均衡。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/49446.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

有哪些好用的 AI 学术研究工具和科研工具?

AI视频生成:小说文案智能分镜智能识别角色和场景批量Ai绘图自动配音添加音乐一键合成视频百万播放量https://aitools.jurilu.com/ AI 应用其实分两个层面,第一是模型,第二是应用。现在很多模型厂家都是既做 toC 的对话应用,也做 t…

GD 32 流水灯

前言: 通过后面的学习掌握了一些逻辑架构的知识,通过复习的方式将学到的裸机任务架构的知识运用起来,同时巩固前面学到的知识,GPIO的配置等。 开发板上LED引脚使用示意图 注:此次LED灯的点亮凡是是高电平点亮&#xff…

好用的电脑屏幕监控软件推荐,什么软件能够监控电脑?

在当今信息化时代,电脑屏幕监控软件成为了企业管理、家长监管以及教育培训等领域的必备工具。通过实时监控电脑屏幕,这类软件可以有效提高工作效率,防止信息泄露,保障网络安全。本文将详细盘点几款主流的电脑屏幕监控软件&#xf…

Linux shell编程学习笔记66:ping命令 超详细的选项说明

0 前言 网络信息是电脑网络信息安全检查中的一块重要内容,Linux和基于Linux的操作系统,提供了很多的网络命令,今天我们研究最常用的ping命令。 1 ping命令 的功能、格式和选项说明 1.1 ping命令 的功能 简单来说, ping 命令 会…

全网最适合入门的面向对象编程教程:23 类和对象的 Python 实现-抛出异常

全网最适合入门的面向对象编程教程:23 类和对象的 Python 实现-抛出异常 摘要: 本文主要介绍了在使用Python面向对象编程时,抛出异常的应用场景、raise语句的使用方法和raise语句语法格式,并举出相应示例辅助讲解。 原文链接&am…

【PyTorch】图像二分类项目

【PyTorch】图像二分类项目 【PyTorch】图像二分类项目-部署 【PyTorch】图像多分类项目 【PyTorch】图像多分类项目部署 图像分类是计算机视觉中的一项重要任务。在此任务中,我们假设每张图像只包含一个主对象。在这里,我们的目标是对主要对象进行分类。…

检索增强生成Retrieval-Augmented Generation(RAG)简介

检索增强生成Retrieval-Augmented Generation(RAG)简介 引言 在自然语言处理领域,生成式任务(如文本生成、机器翻译等)一直备受关注。传统的生成模型如GPT、BERT等虽然取得了显著成果,但在处理长文本、知…

C#数组复习

一、一维数组 using System.Collections; using System.Collections.Generic; using UnityEngine;public class ShuZu : MonoBehaviour {#region 知识点一 基本概念//数组是存储一组相同类型数据的集合//数组分为 一维、二维、交错数组//一般情况 一维数组 就简称为数组#en…

OpenAI从GPT-4V到GPT-4O,再到GPT-4OMini简介

OpenAI从GPT-4V到GPT-4O,再到GPT-4OMini简介 一、引言 在人工智能领域,OpenAI的GPT系列模型一直是自然语言处理的标杆。随着技术的不断进步,OpenAI推出了多个版本的GPT模型,包括视觉增强的GPT-4V(GPT-4 with Vision&…

PeRF: Preemption-enabled RDMA Framework——论文泛读

ATC 2024 Paper 论文阅读笔记整理 问题 远程直接内存访问(RDMA)为数据密集型应用程序提供了高吞吐量、低延迟和最小的CPU使用率。各种数据密集型应用程序,如大数据分析[4,5]、机器学习[2,11,15,33]、分布式存储[21,27,28,41]和键值存储[20,…

[用AI日进斗金系列]用码上飞在企微接单开发一个项目管理系统!

今天是【日进斗金】系列的第二期文章。 先给不了解这个系列的朋友们介绍一下,在这个系列的文章中,我们将会在企微的工作台的“需求发布页面”中寻找有软件开发需求的用户 并通过自研的L4级自动化智能软件开发平台「码上飞CodeFlying」让AI生成应用以解…

基于面向对象重构模型训练器

引言 深度学习领域我们常用jupyter来演练代码,但实际生产环境中不可能像jupyter一样,所有代码逻辑都在面向过程编程,这会导致代码可复用性差,维护难度高。 前面这篇文章 基于pytorch可视化重学线性回归模型 已经封装了数据加载器…

leetcode 116. 填充每个节点的下一个右侧节点指针

leetcode 116. 填充每个节点的下一个右侧节点指针 题目 给定一个 完美二叉树 ,其所有叶子节点都在同一层,每个父节点都有两个子节点。二叉树定义如下: struct Node { int val; Node *left; Node *right; Node *next; } 填充它的每个 next …

STM32 智能家居自动化控制系统教程

目录 引言环境准备智能家居自动化控制系统基础代码实现:实现智能家居自动化控制系统 4.1 数据采集模块 4.2 数据处理与控制模块 4.3 通信与网络系统实现 4.4 用户界面与数据可视化应用场景:家居控制与优化问题解决方案与优化收尾与总结 1. 引言 智能家…

【第一天】计算机网络 TCP/IP模型和OSI模型,从输入URL到页面显示发生了什么

TCP/IP模型和OSI模型 这两个模型属于计算机网络的体系结构。 OSI模型是七层模型,从上到下包括: 应用层,表示层,会话层,传输层,网络层,数据链路层,物理层 TCP/IP模型是四层模型&…

谷粒商城实战笔记-52~53-商品服务-API-三级分类-新增-修改

文章目录 一,52-商品服务-API-三级分类-新增-新增效果完成1,点击Append按钮,显示弹窗2,测试完整代码 二,53-商品服务-API-三级分类-修改-修改效果完成1,添加Edit按钮并绑定事件2,修改弹窗确定按…

C++学习笔记01-语法基础(问题-解答自查版)

前言 以下问题以Q&A形式记录,基本上都是笔者在初学一轮后,掌握不牢或者频繁忘记的点 Q&A的形式有助于学习过程中时刻关注自己的输入与输出关系,也适合做查漏补缺和复盘。 本文对读者可以用作自查,答案在后面&#xff0…

STM32--HAL库--定时器篇

一:如何配置定时器 打开对应工程串口配置好的工程(上一篇博客)做如下配置: 定时器的中断溢出时间计算公式是: 由图得T100*1000/100MHz 注:100MHz100000000 所以溢出时间等于1ms 关于上图4的自动重装…

ARM功耗管理之Suspend-to-RAM实验

安全之安全(security)博客目录导读 ARM功耗管理精讲与实战汇总参见:Arm功耗管理精讲与实战 思考:睡眠唤醒实验?压力测试?Suspend-to-Idle/RAM/Disk演示? 1、实验环境准备 2、软件代码准备 3、唤醒源 4、Suspen…

计算机技术基础 (bat 批处理)Note4

计算机技术基础 (bat 批处理)Note4 本节主要讲解一些 bat 批处理文件中的一些特殊符号,包括 , %, > 和 >>, |, ^, & 和 && 和 ||, " ", ,, ;, ()。 回显屏蔽符 回显屏蔽符 : 这个字符在批处理中的意思是关…