微服务系列文章之 Nginx负载均衡

1、七层负载均衡

1、说明

Nginx要实现七层负载均衡需要用到proxy_pass代理模块配置。Nginx默认安装支持这个模块,我们不需要再做任何处理。Nginx的负载均衡是在Nginx的反向代理基础上把用户的请求根据指定的算法分发到一组【upstream虚拟服务池】。

2、要用到的指令

2.1、upstream指令

该指令用来指定后端服务器的名称和一些参数,可以使用域名、IP、端口或者unix socket。

语法upstream name
默认值
位置http

2.2、server指令

该指令是用来定义一组服务器,它们可以是监听不同端口的服务器,并且也可以是同时监听TCP和Unix socket的服务器。服务器可以指定不同的权重,默认为1。

语法server name [paramerters]
默认值
位置upstream

1.3、实现流程

图。

1.4、配置示例

配置成功后,访问 http://127.0.0.1 请求会一次访问三个服务。

1.4.1、服务一

server {listen       8081;server_name  127.0.0.1;location / {default_type text/plain;return 200 "127.0.0.1 <=> 8081";}
}

1.4.2、服务二

server {listen       8082;server_name  127.0.0.1;location / {default_type text/plain;return 200 "127.0.0.1 <=> 8082";}
}

1.4.3、服务三

server {listen       8083;server_name  127.0.0.1;location / {default_type text/plain;return 200 "127.0.0.1 <=> 8083";}
}

1.4.4、均衡配置

upstream backend {server 127.0.0.1:8081;server 127.0.0.1:8082;server 127.0.0.1:8083;
}server {listen       80;server_name  127.0.0.1;location / {proxy_pass http://backend;}
}

1.5、负载均衡状态

代理服务器在负责均衡调度中的状态有以下几个

状态概述
down当前的server暂时不参与负载均衡
backup预留的备份服务器
max_fails允许请求失败的次数
fail_timeout经过max_fails失败后, 服务暂停时间
max_conns限制最大的接收连接数
1.5.1、down

将该服务器标记为永久不可用,那么该代理服务器将不参与负载均衡。该状态一般会对需要停机维护的服务器进行设置。

upstream backend{server 192.168.200.146:9001 down;server 192.168.200.146:9002;server 192.168.200.146:9003;
}server {listen 8083;server_name localhost;location /{proxy_pass http://backend;}
}
1.5.2、backup

将该服务器标记为备份服务器,当主服务器不可用时,将用来传递请求。

upstream backend{server 192.168.200.146:9001 down;server 192.168.200.146:9002 backup;server 192.168.200.146:9003;
}server {listen 8083;server_name localhost;location / {proxy_pass  http://backend;}
}
1.5.3、max_conns

max_conns=number:用来设置代理服务器同时活动链接的最大数量,默认为0,表示不限制,使用该配置可以根据后端服务器处理请求的并发量来进行设置,防止后端服务器被压垮。

1.5.4、max_failsfail_timeout

max_fails=number:设置允许请求代理服务器失败的次数,默认为1。
fail_timeout=time:设置经过max_fails失败后,服务暂停的时间,默认是10秒。

upstream backend{server 192.168.200.133:9001 down;server 192.168.200.133:9002 backup;server 192.168.200.133:9003 max_fails=3 fail_timeout=15;
}server {listen 8083;server_name localhost;location / {proxy_pass  http://backend;}
}

1.6、 负载均衡策略

Nginx的upstream支持如下六种方式的分配算法,分别是:

算法名称说明
轮询默认方式
weight权重方式
ip_hash依据IP分配方式
least_conn依据最少连接方式
url_hash依据URL分配方式
fair依据响应时间方式

1.6.1、 轮询

轮询是upstream模块负载均衡默认的策略。每个请求会按时间顺序逐个分配到不同的后端服务器。轮询不需要额外的配置。

upstream backend{server 192.168.200.146:9001 weight=1;server 192.168.200.146:9002;server 192.168.200.146:9003;
}server {listen 8083;server_name localhost;location /{proxy_pass http://backend;}
}

1.6.2、 weight加权[加权轮询]

weight=number:用来设置服务器的权重,默认为1,权重数据越大,被分配到请求的几率越大;该权重值,主要是针对实际工作环境中不同的后端服务器硬件配置进行调整的,所有此策略比较适合服务器的硬件配置差别比较大的情况。

upstream backend{server 192.168.200.146:9001 weight=10;server 192.168.200.146:9002 weight=5;server 192.168.200.146:9003 weight=3;
}server {listen 8083;server_name localhost;location / {proxy_pass http://backend;}
}

1.6.3、 ip_hash

当对后端的多台动态应用服务器做负载均衡时,ip_hash指令能够将某个客户端IP的请求通过哈希算法定位到同一台后端服务器上。这样,当来自某一个IP的用户在后端Web服务器A上登录后,在访问该站点的其他URL,能保证其访问的还是后端web服务器A。使用ip_hash指令无法保证后端服务器的负载均衡,可能导致有些后端服务器接收到的请求多,有些后端服务器接收的请求少,而且设置后端服务器权重等方法将不起作用。

语法ip_hash;
默认值
位置upstream
upstream backend{ip_hash;server 192.168.200.146:9001;server 192.168.200.146:9002;server 192.168.200.146:9003;
}server {listen 8083;server_name localhost;location / {proxy_pass http://backend;}
}

1.6.4、 least_conn

最少连接,把请求转发给连接数较少的后端服务器。轮询算法是把请求平均的转发给各个后端,使它们的负载大致相同;但是,有些请求占用的时间很长,会导致其所在的后端负载较高。这种情况下,least_conn这种方式就可以达到更好的负载均衡效果。
此策略适合请求处理时间长短不一造成服务器过载的情况。

upstream backend{least_conn;server 192.168.200.146:9001;server 192.168.200.146:9002;server 192.168.200.146:9003;
}server {listen 8083;server_name localhost;location / {proxy_pass http://backend;}
}

1.6.5、 url_hash

按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,要配合缓存命中来使用。同一个资源多次请求,可能会到达不同的服务器上,导致不必要的多次下载,缓存命中率不高,以及一些资源时间的浪费。而使用url_hash,可以使得同一个url(也就是同一个资源请求)会到达同一台服务器,一旦缓存住了资源,再此收到请求,就可以从缓存中读取。

upstream backend{hash &request_uri;server 192.168.200.146:9001;server 192.168.200.146:9002;server 192.168.200.146:9003;
}
server {listen 8083;server_name localhost;location /{proxy_pass http://backend;}
}

1.6.5、 fair

fair采用的不是内建负载均衡使用的轮换的均衡算法,而是可以根据页面大小、加载时间长短智能的进行负载均衡。那么如何使用第三方模块的fair负载均衡策略。

upstream backend{fair;server 192.168.200.146:9001;server 192.168.200.146:9002;server 192.168.200.146:9003;
}server {listen 8083;server_name localhost;location / {proxy_pass http://backend;}
}

但是如何直接使用会报错,因为fair属于第三方模块实现的负载均衡。需要添加nginx-upstream-fair,如何添加对应的模块:

1.6.5.1、下载nginx-upstream-fair模块
下载地址为:https://github.com/gnosek/nginx-upstream-fair
1.6.5.2、将下载的文件上传到服务器并进行解压缩
unzip nginx-upstream-fair-master.zip
1.6.5.3、重命名资源
mv nginx-upstream-fair-master fair
1.6.5.4、使用./configure命令将资源添加到Nginx模块中
./configure --add-module=/root/fair
1.6.5.5、编译
make

编译可能会出现如下错误,ngx_http_upstream_srv_conf_t结构中缺少default_port。可以在Nginx的源码中 src/http/ngx_http_upstream.h,找到ngx_http_upstream_srv_conf_s,在模块中添加添加default_port属性

int_por_t    port;
in_port_t    default_port;
ngx_unit_t   no_port;

然后再进行make.

1.6.5.6、更新Nginx
1.6.5.6.1、将sbin目录下的nginx进行备份
mv /usr/local/nginx/sbin/nginx /usr/local/nginx/sbin/nginxold
1.6.5.6.2、将安装目录下的objs中的nginx拷贝到sbin目录
cp objs/nginx /usr/local/nginx/sbin
1.6.5.6.3、更新Nginx
make upgrade

2、四层负载均衡

四层负载均衡数据包是在底层就进行了分发,而七层负载均衡数据包则在最顶端进行分发,所以四层负载均衡的效率比七层负载均衡的要高。四层负载均衡不识别域名,而七层负载均衡识别域名。
Nginx在1.9之后,增加了一个stream模块,用来实现四层协议的转发、代理、负载均衡等。stream模块的用法跟http的用法类似,允许我们配置一组TCP或者UDP等协议的监听,然后通过proxy_pass来转发我们的请求,通过upstream添加多个后端服务,实现负载均衡。
四层协议负载均衡的实现,一般都会用到LVS、HAProxy、F5等,要么很贵要么配置很麻烦,而Nginx的配置相对来说更简单,更能快速完成工作。

2.1、添加stream模块的支持

Nginx默认是没有编译这个模块的,需要使用到stream模块,那么需要在编译的时候加上--with-stream
完成添加--with-stream的实现步骤如下:

  • 将原有/usr/local/nginx/sbin/nginx进行备份
  • 拷贝nginx之前的配置信息
  • 在nginx的安装源码进行配置指定对应模块 ./configure --with-stream
  • 通过make模板进行编译
  • 将objs下面的nginx移动到/usr/local/nginx/sbin下
  • 在源码目录下执行 make upgrade进行升级,这个可以实现不停机添加新模块的功能

2.2、配置示例

stream {upstream redisbackend {server 192.168.200.146:6379;server 192.168.200.146:6378;}upstream tomcatbackend {server 192.168.200.146:8080;server 192.168.200.146:8081;}server {listen  81;proxy_pass redisbackend;}server {listen  82;proxy_pass  tomcatbackend;}
}

案例 -Tomcat集群

网络配置

IPPORTDESC
10.108.10.10080Nginx Web Server
10.108.10.1018080Tomcat App Server①
10.108.10.1028080Tomcat App Server②
10.108.10.1038080Tomcat App Server③
# 负载均衡配置
upstream server-api {server 10.108.10.101:8080;server 10.108.10.102:8080;server 10.108.10.103:8080;
}server {listen  80;server_name  localhost;# 静态资源配置location / {root  /www/wwwroot/projects/ui;try_files  $uri $uri/ /index.html;index  index.html index.htm;}# 动态资源配置location /prod-api/ {proxy_set_header  Host $http_host;proxy_set_header  X-Real-IP $remote_addr;proxy_set_header  REMOTE-HOST $remote_addr;proxy_set_header  X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-Proto  $scheme;proxy_pass  http://server-api/;}
}

在101、102、103上分别启动Tomcat,此时访问http://10.108.10.100/index.html,刷新会轮训访问三台Tomcat服务。 至此,解决了Tomcat的高可用性,一台服务器宕机,还有其他两台对外提供服务,同时也可以实现后台服务器的不间断更新。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/1396.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Linux】网络基础之UDP协议

目录 &#x1f308;前言&#x1f338;1、传输层&#x1f33a;2、重谈端口号&#x1f368;2.1、端口号范围划分&#x1f367;2.2、认识知名端口号 &#x1f340;3、UDP协议&#x1f368;3.1、UDP协议报文结构&#x1f369;3.2、UDP协议的特点&#x1f36a;3.3、基于UDP的应用层协…

openwrt 阿里云盘webdav 转成 samba4挂载

需要rclone 与samba4-server rclone 吧webdav挂载到openwrt的某个目录下。 然后通过samba-server 挂载出去。 安装rclone sudo -v ; curl https://rclone.org/install.sh | sudo bash 安装fuse opkg install fuse-utils 软连接 ln -s /usr/bin/fusermount /usr/bin/fuse…

【Kubernetes运维篇】RBAC之创建集群用户管理K8S

文章目录 一、创建zhangsan集群用户赋予uat名称空间管理员权限二、创建lisi集群用户赋予查看所有名称Pod权限 需求&#xff1a;公司新入职两位运维同事&#xff0c;分别是zhangsan、lisi&#xff0c;刚入职肯定不能给K8S管理员权限&#xff0c;所以需要创建两个系统账号&#x…

k8s与集群管理

从docker讲起 终于有人把 Docker 讲清楚了&#xff0c;万字详解&#xff01; Docker资源&#xff08;CPU/内存/磁盘IO/GPU&#xff09;限制与分配指南 默认情况下&#xff0c;Docker容器是没有资源限制的&#xff0c;它会尽可能地使用宿主机能够分配给它的资源。如果不对容器资…

chinese_lite OCR使用教程

目录 一、简介二、环境三、项目地址四、使用说明五、各语言的Demo地址六、效果展示 一、简介 超轻量级中文ocr&#xff0c;支持竖排文字识别, 支持ncnn、mnn、tnn推理 ( dbnet(1.8M) crnn(2.5M) anglenet(378KB)) 总模型仅4.7M 二、环境 python3.6linux/macos/windows 三…

JVM回收算法(标记-清除算法, 复制算法, 标记-整理算法)

1.标记-清除算法 最基础的算法&#xff0c;分为两个阶段&#xff0c;“标记”和“清除” 原理&#xff1a; - 标记阶段&#xff1a;collector从mutator根对象开始进行遍历&#xff0c;对从mutator根对象可以访问到的对象都打上一个标识&#xff0c;一般是在对象的header中&am…

自动化测试框架性能测试报告模板

目录 一、项目概述 二、测试环境说明 三、测试方案 四、测试结果 五、结果分析 总结&#xff1a; 一、项目概述 1.1 编写目的 本次测试报告&#xff0c;为自动化测试框架性能测试总结报告。目的在于总结我们课程所压测的目标系统的性能点、优化历史和可优化方向。 1.2 …

AUTOSAR CP标准的RTE和BSW各模块的设计及开发工作

AUTOSAR&#xff08;Automotive Open System Architecture&#xff09;是一种开放的汽车电子系统架构标准&#xff0c;旨在提供一种统一的软件架构&#xff0c;以实现汽车电子系统的模块化和可重用性。 AUTOSAR标准中的两个重要模块是RTE&#xff08;Runtime Environment&…

【AI底层逻辑】——篇章5(上):机器学习算法之回归分类

目录 引入 一、何为机器学习 1、定规则和学规则 2、算法的定义 二、机器学习算法 1、常见学习方法 2、回归 3、分类 续下篇... 往期精彩&#xff1a; 引入 计算机发明初&#xff0c;专家通过将专业知识和经验梳理成规则输入计算机程序&#xff0c;但是这样跟不上知识…

【运维工程师学习五】数据库之MariaDB

【运维工程师学习五】数据库 1、常用的关系型数据库2、C/S结构3、MariaDB图形客户端4、安装MariaDB5、启动MariaDB及验证启动是否成功6、验证启动——端口7、验证启动——进程8、MariaDB配置文件路径主配置文件解读&#xff1a; 9、MariaDB的配置选项10、MariaDB客户端连接1、在…

设计模式 ~ 单例模式

单例模式 单例模式是一种设计模式&#xff0c;指在确保一个类只有一个实例&#xff0c;并提供一个全局访问点来访问该实例&#xff1b; 前端对于单例模式不常用&#xff0c;但是单例的思想无处不在&#xff1b; 创建之后缓存以便继续使用&#xff1b; 如&#xff1a;弹窗、遮罩…

【Python】json 格式转换 ( json 模块使用 | 列表转 json | json 转列表 | 字典转 json | json 转字典 )

文章目录 一、json 格式转换1、json 模块使用2、代码示例分析 - 列表转 json3、代码示例分析 - 字典转 json json 格式 字符串 与 Python 中的 字典 dict 和 列表 list 变量 可以无缝转换 ; 调用 json.dumps 函数 可以将 Python 列表 / 字典 转为 json ;调用 json.loads 函数 …

Elasticsearch 中的矢量搜索:设计背后的基本原理

作者&#xff1a;Adrien Grand 你是否有兴趣了解 Elasticsearch 用于矢量搜索&#xff08;vector search&#xff09;的特性以及设计是什么样子&#xff1f; 一如既往&#xff0c;设计决策有利有弊。 本博客旨在详细介绍我们如何选择在 Elasticsearch 中构建矢量搜索。 矢量搜索…

python和django中安装mysqlclient失败的解决方案

在Pychram中和pip中安装mysqlclient都不成功&#xff0c;只能直接下载二进制包进行安装了&#xff0c;下载页面中根据python的版本选择对应WHL包下载&#xff0c;下载地址 mysqlclient PyPIhttps://pypi.org/project/mysqlclient/#files 通过pip命令进行安装 pip install d:\…

为什么event事件无法被序列化到本地存储

此问题出现的场景&#xff1a; 今天为要做一个记住用户上一次选择的task&#xff0c;按正常思路就是localStorage 存储这一次的所有入参&#xff0c;然后下一次init时候调用一下。但是发现有一个入参是$event 序列化之后拿出来少了很多属性。 原因&#xff1a; 事件&#xf…

考研线性代数考点总结

一.行列式 1.数字型行列式 数字行列式的计算含零子式的分块计算 2.行列式的性质 |A||A^T|交换行列&#xff0c;行列式的值变号含公因子的提出或乘进去把某行的K倍加到另一行&#xff0c;行列式的值不变。行列式可以根据某一行或某一列分拆 3.抽象行列式 n阶或高阶行列式 常…

《微服务架构设计模式》第十三章 微服务架构的重构策略

微服务架构的重构策略 一、重构到微服务需要考虑的问题1、为什么重构2、重构形式3、重构策略 二、设计服务与单体的协作方式三、总结 一、重构到微服务需要考虑的问题 1、为什么重构 单体地狱造成的业务问题&#xff1a; 交付缓慢充满故障的软件交付可扩展性差 2、重构形式 …

Visual Studio 向工程中添加现有文件夹

前言&#xff1a; 在创建C#类库&#xff08;dll&#xff09;工程后&#xff0c;需要把现有的C#文件添加进工程中 步骤1.将所有文件夹复制到工程中 步骤2. 点击这个图标&#xff0c;显示所有文件夹 工程目录下的所有文件夹都会被显示出来 选中需要添加的文件夹&#xff0c;右…

Linux安装MongoDB数据库,并内网穿透远程连接

文章目录 前言1. 配置Mongodb源2. 安装MongoDB3. 局域网连接测试4. 安装cpolar内网穿透5. 配置公网访问地址6. 公网远程连接7. 固定连接公网地址8. 使用固定地址连接 前言 MongoDB是一个介于关系数据库和非关系数据库之间的产品&#xff0c;是非关系数据库当中功能最丰富&…

计算机网络中的 端到端和点到点

文章目录 引入点到点服务优点缺点 端到端服务优点缺点 引入 点到点主要说的是——数据链路层端到端主要说的是——传输层 为什么我们需要这两个东西呢&#xff1f; 点到点服务 数据链路层只负责直接相连的两个结点之间的通信&#xff0c;一个结点的数据链路层接受网络层数据…