文章目录
- 4 Ribbon负载均衡
- 4.1 负载均衡原理
- 4.2 源码解读
- 4.3 负载均衡策略
- 4.3.1 内置的负载均衡策略
- 4.3.2 自定义负载均衡策略
- 4.3.2.1 方式一：定义IRule
- 4.3.2.2 方式二：配置文件
- 4.4 饥饿加载
- 5 Nacos注册中心
- 5.1 认识和安装Nacos
- 5.2 服务注册到Nacos
- 5.3 服务分级存储模型
- 5.3.1 同机房集群
- 5.3.2 给服务实例配置集群
- 5.3.3 同集群优先的负载均衡
- 5.4 权重配置
- 5.5 环境隔离
- 5.5.1 创建namespace
- 5.5.2 给微服务配置namespace
- 5.6 永久实例
- 5.7 Nacos与Eureka的区别
前言
SpringCloud学习笔记系列文章：
SpringCloud学习笔记(一)微服务介绍、服务拆分和RestTemplate远程调用、Eureka注册中心
4 Ribbon负载均衡
上一节，在order-service工程的OrderApplication启动类中，给RestTemplate对象添加了@LoadBalanced注解，即可实现负载均衡功能，这是什么原理呢？
4.1 负载均衡原理
SpringCloud底层其实是利用了Ribbon组件，来实现负载均衡功能的。如下图所示：
order-service(8080)服务发出的请求是http://user-service/user/1，通过Ribbon组件，就变成了http://localhost:8081。显然，Ribbon组件根据user-service这一服务名称，获取到了服务实例的ip和端口。
4.2 源码解读
进入@LoadBalanced注解的源码：
由上图可知，Ribbon组件的核心类是：LoadBalancerClient。
由上图可知，LoadBalancerClient接口定义了3个方法，其中execute()方法就用于执行RestTemplate发起的请求。该方法在RibbonLoadBalancerClient实现类中具体实现：
-
getLoadBalancer(serviceId)：该方法会根据服务id获取负载均衡器ILoadBalancer，而ILoadBalancer会拿着服务id去eureka-server中获取服务列表并保存起来。 -
getServer(loadBalancer, hint)：该方法会利用内置的负载均衡算法，从服务列表中选择一个。本例中，选择了8081端口的user-service服务。
由上图可知，getServer()方法会转调chooseServer()方法：
由上图可知，chooseServer()方法中，会从变量rule中选择一个server：
由上图可知，变量rule默认是一个RoundRobinRule对象，类名直译过来就是轮询的Robin规则。
可见，默认情况下，Robin的负载均衡算法就是轮询。
另外，Robin拦截RestTemplate请求是通过LoadBalancerInterceptor类来实现的：
由上图可知，intercept()方法拦截了用户的HttpRequest请求，然后做了几件事：
request.getURI()：获取请求uri，本例中就是http://user-service/user/2originalUri.getHost()：获取uri路径的主机名，其实就是服务id，即user-servicethis.loadBalancer.execute()：处理服务id和用户请求。
小结：
如上图所示，Ribbon负载均衡策略的基本流程如下：
- 1）order-service(8080)服务发起RestTemplate请求：
http://user-service/user/2 - 2）LoadBalancerInterceptor拦截RestTemplate请求，从请求url中获取服务名称，也就是
user-service，然后调用RibbonLoadBalancerClient的execute()方法 - 3）
execute()方法中，首先会通过DynamicServerListLoadBalancer，根据user-service到eureka-server中拉取服务列表；eureka-server返回列表，即localhost:8081、localhost:8082 - 4）继续执行
execute()方法，通过内置的轮询负载均衡策略，从列表中选择一个，例如localhost:8082 - 5）RibbonLoadBalancerClient修改请求地址，用
localhost:8082替代user-service，得到http://localhost:8082/user/2，发起真实请求。
4.3 负载均衡策略
4.3.1 内置的负载均衡策略
内置的负载均衡策略都定义在IRule接口中。IRule接口有很多不同的实现类：
| 内置的负载均衡策略类 | 策略说明 |
|---|---|
| RoundRobinRule | 通过简单的轮询来选择服务器。它是Ribbon默认的负载均衡规则。 |
| AvailabilityFilteringRule | 对以下两种服务器进行忽略： （1）默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。 （2）并发数过高的服务器。并发连接数的上线可以进行配置。 |
| WeightedResponseTimeRule | 为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。 |
| ZoneAvoidanceRule | 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等，而后再对Zone内的多个服务做轮询。 |
| BestAvailableRule | 忽略那些短路的服务器，并选择并发数较低的服务器。 |
| RandomRule | 随机选择一个可用的服务器。 |
| RetryRule | 重试机制的选择逻辑。 |
4.3.2 自定义负载均衡策略
如果想要自定义负载均衡策略，有两种方式可以实现：
4.3.2.1 方式一：定义IRule
在order-service工程的OrderApplication启动类中，定义一个新的IRule：
// com.star.order.OrderApplication@Bean
public IRule RandomRule() {return new RandomRule();
}
4.3.2.2 方式二：配置文件
修改order-service工程的application.yml配置文件，添加新的负载均衡策略配置：
# sc_demo/order-service/src/main/resources/application.ymluser-service: # 给user-service服务配置负载均衡规则ribbon:NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则
注意，一般用默认的负载均衡策略，不做修改。
4.4 饥饿加载
Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。
而饥饿加载则会在项目启动时创建，降低第一次访问的耗时，可以通过下面配置开启饥饿加载：
# order-service/src/main/resources/application.ymlribbon:eager-load:enabled: trueclients: user-service
5 Nacos注册中心
5.1 认识和安装Nacos
Nacos是阿里巴巴的产品，现在是SpringCloud中的一个组件。相比Eureka，它功能更加丰富，在国内受欢迎程度较高。其官网地址是：https://nacos.io/。
windows环境下Nacos的安装步骤如下：
- 1）下载安装包
在Nacos的GitHub页面，提供有下载链接，可以下载编译好的Nacos服务端或者源代码：
GitHub主页：https://github.com/alibaba/nacos
GitHub的Release下载页：https://github.com/alibaba/nacos/releases
此处下载windows版本：nacos-server-2.3.2.zip。
- 2）解压缩
将下载的nacos-server-2.3.2.zip解压到任意非中文目录下，如图：
- 3）端口配置
Nacos的默认端口是8848，可以进入nacos的conf目录，修改application.properties配置文件中的端口：
- 4）启动Nacos
进入bin目录，执行以下命令启动Nacos：
startup.cmd -m standalone
- 5）访问Nacos
在浏览器输入地址：http://127.0.0.1:8848/nacos：
5.2 服务注册到Nacos
Nacos是SpringCloudAlibaba的组件，而SpringCloudAlibaba也遵循SpringCloud中定义的服务注册、服务发现规范。因此使用Nacos和使用Eureka对于微服务来说，并没有太大区别。
主要差异在于：依赖不同、服务地址不同。
服务注册到Nacos的步骤如下：
- 1）引入依赖
在sc_demo父工程的pom文件中的<dependencyManagement>中引入SpringCloudAlibaba的依赖：
<!--sc_demo/pom.xml--><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-alibaba-dependencies</artifactId><version>2.2.6.RELEASE</version><type>pom</type><scope>import</scope>
</dependency>
然后在user-service和order-service工程中的pom文件中引入nacos-discovery依赖：
<!--sc_demo/user-service/pom.xml-->
<!--sc_demo/order-service/pom.xml--><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
然后注释掉eureka的依赖。
- 2）配置Nacos地址
在user-service和order-service工程的application.yml文件中添加nacos地址：
# sc_demo/user-service/src/main/resources/application.yml
# sc_demo/order-service/src/main/resources/application.ymlspring:cloud:nacos:server-addr: localhost:8848
然后注释掉eureka的配置。
- 3）启动微服务
启动user-service(8081)和order-service(8080)服务，在nacos管理页面，可以看到微服务信息：
5.3 服务分级存储模型
5.3.1 同机房集群
一个服务可以有多个实例，并且可以分布于全国各地的不同机房，例如user-service，可以有:
- 127.0.0.1:8081，在上海机房
- 127.0.0.1:8082，在上海机房
- 127.0.0.1:8083，在杭州机房
Nacos会将同一机房内的实例划分为一个集群。
也就是说，一个服务可以包含多个集群，每个集群下又有多个实例，如杭州、上海集群，从而形成分级模型，如图：
微服务互相访问时，应该尽可能访问同集群实例，因为本地访问速度更快。当本集群内不可用时，才访问其它集群。例如杭州机房内的order-service应优先访问同机房的user-service，如图：
5.3.2 给服务实例配置集群
修改user-service工程的配置文件application.yml，添加集群配置：
# sc_demo\user-service\src\main\resources\application.ymlspring:cloud:nacos:discovery:cluster-name: HangZhou
重启user-service的两个实例(8081、8082)，在Nacos控制台查看服务集群：
再启动一个user-service的8083端口实例，配置其集群为上海：
在Nacos控制台查看服务集群：
5.3.3 同集群优先的负载均衡
Nacos中提供了一个NacosRule的实现，可以优先从同集群中挑选实例。
- 1）给order-service配置集群
将order-service(8080)实例的集群配置为杭州，那么order-service(8080)实例就和user-service的8081、8082实例在同一机房：
# sc_demo\order-service\src\main\resources\application.ymlspring:cloud:nacos:discovery:cluster-name: HangZhou
- 2）修改负载均衡策略
# sc_demo\order-service\src\main\resources\application.yml# 给user-service服务配置负载均衡规则
user-service: ribbon:NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule
- 3）功能测试
重启order-service(8080)实例，在Nacos控制台查看服务集群：
调用http://127.0.0.1:8080/order/102接口，由【4.2 源码解读】的分析可知，程序会进入BaseLoadBalancer的chooseServer()方法：
由上图可知，此时的负载均衡策略是我们自己配置的NacosRule。进入NacosRule类的choose()方法，其源码的核心步骤如下：
// com.alibaba.cloud.nacos.ribbon.NacosRule@Override
public Server choose(Object key) {try {// 获取集群名称String clusterName = this.nacosDiscoveryProperties.getClusterName();// ...// 获取可选的实例List<Instance> instances = namingService.selectInstances(name, group, true);// ...List<Instance> instancesToChoose = instances;if (StringUtils.isNotBlank(clusterName)) {// 遍历可选的实例，找出集群名称一致的实例List<Instance> sameClusterInstances = instances.stream().filter(instance -> Objects.equals(clusterName,instance.getClusterName())).collect(Collectors.toList());// 赋值给instancesToChooseif (!CollectionUtils.isEmpty(sameClusterInstances)) {instancesToChoose = sameClusterInstances;}// ...}// 转换instancesToChoose后返回Instance instance = ExtendBalancer.getHostByRandomWeight2(instancesToChoose);return new NacosServer(instance);} // catch ...
}
由以上源码可知，NacosRule负载均衡策略确实会优先选择同集群下的实例，如图：
5.4 权重配置
在实际部署中，不同的服务器设备性能之间会存在差异，部分实例所在机器性能较好，另一些较差，而我们都希望性能好的机器承担更多的用户请求*。
但默认情况下，NacosRule是同集群内随机挑选，不会考虑机器的性能问题。为此，Nacos提供了权重配置来控制访问频率，权重越大则访问频率越高。
在Nacos控制台，找到user-service的集群列表，点击编辑，即可修改权重：
在弹出的编辑窗口，修改权重：
需要注意的是，如果权重修改为0，则该实例永远不会被访问。
5.5 环境隔离
Nacos提供了namespace来实现环境隔离功能：
- nacos中可以有多个namespace
- namespace下可以有group、service等
- 不同namespace之间相互隔离，不同namespace的服务互相不可见
5.5.1 创建namespace
默认情况下，所有service、data、group都在同一个namespace，名为public：
选择左侧菜单“命名空间”，点击“新建命名空间”，填写表单，即可创建一个新的namespace：
5.5.2 给微服务配置namespace
给微服务配置namespace只能通过修改配置来实现。例如，修改order-service工程的application.yml文件：
# sc_demo\order-service\src\main\resources\application.ymlspring:cloud:nacos:server-addr: localhost:8848discovery:cluster-name: HangZhounamespace: c18fb6e9-36cb-4fa5-ae2d-bf32409db5d4 # 命名空间，填ID
重启order-service(8080)服务，在Nacos控制台查看服务列表：
此时再调用http://127.0.0.1:8080/order/102接口，因为namespace不同，会导致找不到user-service实例，控制台会报错：
04-26 12:05:19:116 ERROR 39076 --- [nio-8080-exec-1] o.a.c.c.C.[.[.[/].[dispatcherServlet] : Servlet.service() for servlet [dispatcherServlet] in context with path [] threw exception [Request processing failed; nested exception is java.lang.IllegalStateException: No instances available for user-service] with root causejava.lang.IllegalStateException: No instances available for user-service
5.6 永久实例
Nacos的服务实例分为两种类型：
- 临时实例：如果实例宕机超过一定时间，会从服务列表剔除，默认的类型。
- 非临时实例：如果实例宕机，不会从服务列表剔除，也可以叫永久实例。
可以通过配置文件，配置一个服务实例为永久实例：
# application.ymlspring:cloud:nacos:discovery:ephemeral: false # 设置为非临时实例
5.7 Nacos与Eureka的区别
Nacos和Eureka整体结构类似，服务注册、服务拉取、心跳等待，但是也存在一些差异：
-
共同点
- 都支持服务注册和服务拉取
- 都支持服务提供者心跳方式做健康检测
-
不同点
- Nacos支持服务端主动检测提供者状态：临时实例采用心跳模式，非临时实例采用主动检测模式
- 临时实例心跳不正常会被剔除，非临时实例则不会被剔除
- Nacos支持服务列表变更的消息推送模式，服务列表更新更及时
- Nacos集群默认采用AP方式，当集群中存在非临时实例时，采用CP模式；Eureka采用AP方式
…
本节完，更多内容请查阅分类专栏：SpringCloud学习笔记
本文涉及代码下载地址：https://gitee.com/weidag/springcloud_learning.git
感兴趣的读者还可以查阅我的另外几个专栏：
- SpringBoot源码解读与原理分析(已完结)
- MyBatis3源码深度解析(已完结)
- Redis从入门到精通(已完结)
- MyBatisPlus详解(已完结)
- 再探Java为面试赋能(持续更新中…)
