作用

负载均衡（Load Balance，简称 LB），是在现有网络结构之上分摊到多个操作单元上进行执行，扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。

解决方法一：proxy_connect_timeout 1;   #nginx服务器与被代理的服务器建立连接的超时时间，默认60秒proxy_read_timeout 1;      #nginx服务器向被代理服务器组发出read请求后，等待响应的超时间，默认为60秒proxy_send_timeout 1;      #nginx服务器向被代理服务器组发出write请求后，等待响应的超时间，默认为60秒proxy_ignore_client_abort on;  #客户端断网时，nginx服务器是否中断对被代理服务器的请求。默认为off

使用upstream指令配置一组服务器作为被代理服务器，服务器中的访问算法遵循配置的负载均衡规则，同时可以使用该指令配置在发生哪些异常情况时，将请求顺次交由下一组服务器处理.proxy_next_upstream timeout;     //反向代理upstream中设置的服务器组，出现故障时，被代理服务器返回的状态值。error|timeout|invalid_header|http_500|http_502|http_503|http_504|http_404|offerror：建立连接或向被代理的服务器发送请求或读取响应信息时服务器发生错误。
timeout：建立连接，想被代理服务器发送请求或读取响应信息时服务器发生超时。
invalid_header:被代理服务器返回的响应头异常。
off:无法将请求分发给被代理的服务器。
http_400等:被代理服务器返回的状态码为400，500，502等

upstream配置

upstream的模块位置是和server同级别的，都在http模块下

upstream配置方法一：upstream 名字 { server 服务器ip:端口;server 服务器ip:端口;}
server {listen 80;server_name localhost;location / {         proxy_pass  http://名字;  #请求转向 testapp 定义的服务器列表         } 

upstream配置方法二：upstream 名字 { server  http://服务器ip:端口;server  http://服务器ip:端口;}server {listen 80;server_name localhost;location  / {         proxy_pass  http://名字;  #请求转向mysvr 定义的服务器列表         } 

负载均衡算法

upstream 支持4种负载均衡调度算法

轮询(默认):每个请求按时间顺序逐一分配到不同的后端服务器;ip_hash:每个请求按访问IP的hash结果分配，同一个IP客户端固定访问一个后端服务器。可以保证来自同一ip的请求被打到固定的机器上，可以解决会话保持问题url_hash:按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器。后台服务器为缓存的时候提高效率。fair:这是比上面两个更加智能的负载均衡算法。此种算法可以依据页面大小和加载时间长短智能地进行负载均衡，也就是根据后端服务器的响应时间来分配请求，响应时间短的优先分配。`Nginx`本身是不支持 `fair`的，如果需要使用这种调度算法，必须下载Nginx的 `upstream_fair`模块。

配置分类

热备

有2台服务器，当一台服务器发生事故时，才启用第二台服务器给提供服务。upstream 名字 { server ip:端口; server ip:端口 backup;                       //热备     }

轮询

nginx默认就是轮询其权重都默认为1，服务器处理请求的顺序：ABABABABABupstream 名字 { server ip:端口; server ip:端口;   }

加权轮询

跟据配置的权重的大小而分发给不同服务器不同数量的请求。如果不设置，则默认为1。服务器的请求顺序为：根据权重，分配请求服务器upstream 名字 { server ip:端口 weight=1; server ip:端口 weight=2;   }

ip_hash

nginx会让相同的客户端ip请求相同的服务器，也就是会话保持功能upstream 名字 { server ip:端口; server ip:端口; ip_hash;}

负载均衡配置状态参数

down:表示当前的server暂时不参与负载均衡。backup:预留的备份机器。当其他所有的非backup机器出现故障或者忙的时候，才会请求backup机器，因此这台机器的压力最轻。max_fails:允许请求失败的次数，默认为1。当超过最大次数时，返回proxy_next_upstream模块定义的错误。fail_timeout:在经历了max_fails次失败后，暂停服务的时间单位秒。max_fails可以和fail_timeout一起使用。

 upstream 位置 { server ip:端口 weight=2 max_fails=2 fail_timeout=2;server ip:端口 weight=1 max_fails=2 fail_timeout=1;    }

nginx配置7层协议及4层协议

七层协议做负载均衡

nginx配置文件upstream 名字 {ip_hash;server 10.0.105.199:80 weight=2 max_fails=2 fail_timeout=2s;   //定义服务端ipserver 10.0.105.202:80 weight=2 max_fails=2 fail_timeout=2s;   //定义服务端ip}server {listen       80;server_name  www.test.com;location / {proxy_pass http://名字;proxy_set_header Host $host:$server_port;proxy_set_header X-Real-IP $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;}}

四层协议做负载均衡

nginx增加了一个 stream 模块，用来实现四层协议（网络层和传输层）的转发、代理、负载均衡等。stream模块的用法跟http的用法类似，允许配置一组TCP或者UDP等协议的监听，然后通过proxy_pass来转发请求，通过upstream添加多个后端服务，实现负载均衡。

stream和http是同级，包含upstream和server

做四层负载均衡确保nginx安装了–with -stream模块，还要下载两个工具
yum -y install epel-release
yum -y install nginx-all-modules.noarch不安装插件会报[emerg] unknown directive “stream“ in /etc/nginx/nginx.conf错误如果还是报[emerg] unknown directive “stream“ in /etc/nginx/nginx.conf错误，需要在主配置文件添加：
load_module /usr/lib64/nginx/modules/ngx_stream_module.so;

//4层tcp负载 stream {upstream myweb {server 172.17.14.2:80;      //这里端口要和http模块中监听的端口不一样//而且这里不能用域名，域名解析是http协议的}server {listen 80;proxy_pass myweb;      //这里前面不要加http：//，写在location中加http：//}
}

浏览访问时候，可以后端两台服务器长连接参数调整成0： keepalive_timeout  0;
刷新浏览器访问就可以正常轮询访问了

会话保持

ip_hash

ip_hash使用源地址哈希算法，将同一客户端的请求总是发往同一个后端服务器，除非该服务器不可用。

upstream backend {ip_hash;server backend1.example.com;server backend2.example.com;server backend3.example.com down;
}

ip_hash简单易用，当后端服务器宕机后，session会丢失；来自同一局域网的客户端会被转发到同一个后端服务器，可能导致负载失衡；不适用于CDN网络，不适用于前段还有代理的情况。

sticky_cookie_insert

使用sticky_cookie_insert启用会话亲缘关系，这会导致来自同一客户端的请求被传递到一组服务器的同一台服务器。与ip_hash不同之处在于，它不是基于IP来判断客户端的，而是基于cookie来判断。因此可以避免上述ip_hash中来自同一局域网的客户端和前段代理导致负载失衡的情况。

upstream backend {server backend1.example.com;server backend2.example.com;sticky expires=1h domain=3evip.cn path=/;
}

expires：设置浏览器中保持cookie的时间 domain：定义cookie的域 path：为cookie定义路径

jvm_route

jvm_route是通过session_cookie这种方式来实现session粘性。将特定会话附属到特定tomcat上，从而解决session不同步问题，但是无法解决宕机后会话转移问题。如果在cookie和url中并没有session，则这只是个简单的round-robin负载均衡。

一开始请求过来，没有带session的信息，jvm_route就根据round robin的方法，发到一台Tomcat上面
Tomcat添加上session信息，并返回给客户;用户再次请求，jvm_route看到session中有后端服务器的名称，他就把请求转到对应的服务器上暂时jvm_route模块还不支持fair的模式。jvm_route的工作模式和fair是冲突的。对于某个特定用户，当一直为他服务的Tomcat宕机后，默认情况下它会重试max_fails的次数，如果还是失败，就重新启用round robin的方式，而这种情况下就会导致用户的session丢失。