Java代码实现负载均衡五种算法

前言：

负载均衡是为了解决并发情况下，多个请求访问，把请求通过提前约定好的规则转发给各个server。其中有好几个种经典的算法。在用java代码编写这几种算法之前，先来了解一下负载均衡这个概念。

1.概念

负载，从字面意思可以分析，是指后端server可以承受的压力。这个一方面是服务器的性能，另一方面就是代码的质量了。

均衡，就是说把服务部署在多态server，如何调度这些资源。根据服务器性能不同，进行一个权衡。

当web访问量增加，服务器性能不同，更好的去利用服务器，我们需要负载均衡算法。

2.几种负载均衡算法简介

主要的负载均衡算法是图中这些，在代码实现之前，我们先简单回顾一下他们的概念。

轮询法：

轮询算法按顺序把每个新的连接请求分配给下一个服务器，最终把所有请求平分给所有的服务器。

优点：绝对公平

缺点：无法根据服务器性能去分配，无法合理利用服务器资源。

加权轮询法：

该算法中，每个机器接受的连接数量是按权重比例分配的。这是对普通轮询算法的改进，比如你可以设定：第三台机器的处理能力是第一台机器的两倍，那么负载均衡器会把两倍的连接数量分配给第3台机器。加权轮询分为：简单的轮询、平滑的轮询。

什么是平滑的轮询，就是把每个不同的服务，平均分布。在Nginx源码中，实现了一种叫做平滑的加权轮询（smooth weighted round-robin balancing）的算法，它生成的序列更加均匀。5个请求现在分散开来，不再是连续的。

随机法：

负载均衡方法随机的把负载分配到各个可用的服务器上，通过随机数生成算法选取一个服务器。毕竟随机，，有效性受到了质疑。

加权随机法：

获取带有权重的随机数字，随机这种东西，不能看绝对，只能看相对。

IP_Hash算法：

hash(object)%N算法，通过一种散列算法把请求分配到不同的服务器上。

3.Java代码实现负载均衡五种算法

1.轮询法：

/*** Title:轮询* Description:** @author Created by Julie* @version 1.0* @date on 15:49 2017/10/26*/
package com.test.loadbalance;import java.util.*;
import java.util.concurrent.ConcurrentHashMap;public class TestRoundRobin {//    1.定义map, key-ip,value-weightstatic Map<String,Integer> ipMap=new HashMap<>();static {ipMap.put("192.168.13.1",1);ipMap.put("192.168.13.2",1);ipMap.put("192.168.13.3",1);}//    Integer sum=0;Integer  pos = 0;public String RoundRobin(){Map<String,Integer> ipServerMap=new ConcurrentHashMap<>();ipServerMap.putAll(ipMap);//    2.取出来key,放到set中Set<String> ipset=ipServerMap.keySet();//    3.set放到list，要循环list取出ArrayList<String> iplist=new ArrayList<String>();iplist.addAll(ipset);String serverName=null;//    4.定义一个循环的值，如果大于set就从0开始synchronized(pos){if (pos>=ipset.size()){pos=0;}serverName=iplist.get(pos);//轮询+1pos ++;}return serverName;}public static void main(String[] args) {TestRoundRobin testRoundRobin=new TestRoundRobin();for (int i=0;i<10;i++){String serverIp=testRoundRobin.RoundRobin();System.out.println(serverIp);}}}

2.加权轮询法

package com.test.loadbalance;import java.util.*;
import java.util.concurrent.ConcurrentHashMap;/*** Title:* Description:加权轮询** @author Created by Julie* @version 1.0* @date on 18:05 2017/10/26*/
public class TestWeightRobin {//    1.map, key-ip,value-weightstatic Map<String,Integer> ipMap=new HashMap<>();static {ipMap.put("192.168.13.1",1);ipMap.put("192.168.13.2",2);ipMap.put("192.168.13.3",4);}Integer pos=0;public String WeightRobin(){Map<String,Integer> ipServerMap=new ConcurrentHashMap<>();ipServerMap.putAll(ipMap);Set<String> ipSet=ipServerMap.keySet();Iterator<String> ipIterator=ipSet.iterator();//定义一个list放所有serverArrayList<String> ipArrayList=new ArrayList<String>();//循环set，根据set中的可以去得知map中的value，给list中添加对应数字的server数量while (ipIterator.hasNext()){String serverName=ipIterator.next();Integer weight=ipServerMap.get(serverName);for (int i = 0;i < weight ;i++){ipArrayList.add(serverName);}}String serverName=null;if (pos>=ipArrayList.size()){pos=0;}serverName=ipArrayList.get(pos);//轮询+1pos ++;return  serverName;}public static void main(String[] args) {TestWeightRobin testWeightRobin=new TestWeightRobin();for (int i =0;i<10;i++){String server=testWeightRobin.WeightRobin();System.out.println(server);}}
}

3.随机法：

package com.test.loadbalance;import java.util.*;
import java.util.concurrent.ConcurrentHashMap;/*** Title:* Description:随机** @author Created by Julie* @version 1.0* @date on 18:25 2017/10/26*/
public class TestRandom {//    1.定义map, key-ip,value-weightstatic Map<String,Integer> ipMap=new HashMap<>();static {ipMap.put("192.168.13.1",1);ipMap.put("192.168.13.2",2);ipMap.put("192.168.13.3",4);}public String Random() {Map<String,Integer> ipServerMap=new ConcurrentHashMap<>();ipServerMap.putAll(ipMap);Set<String> ipSet=ipServerMap.keySet();//定义一个list放所有serverArrayList<String> ipArrayList=new ArrayList<String>();ipArrayList.addAll(ipSet);//循环随机数Random random=new Random();//随机数在list数量中取（1-list.size）int pos=random.nextInt(ipArrayList.size());String serverNameReturn= ipArrayList.get(pos);return  serverNameReturn;}public static void main(String[] args) {TestRandom testRandom=new TestRandom();for (int i =0;i<10;i++){String server=testRandom.Random();System.out.println(server);}}
}

4.加权随机：

package com.test.loadbalance;import java.util.*;
import java.util.concurrent.ConcurrentHashMap;/*** Title:* Description:加权随机** @author Created by Julie* @version 1.0* @date on 18:42 2017/10/26*/
public class TestRobinRandom {//    1.定义map, key-ip,value-weightstatic Map<String,Integer> ipMap=new HashMap<>();static {ipMap.put("192.168.13.1",1);ipMap.put("192.168.13.2",2);ipMap.put("192.168.13.3",4);}public String RobinRandom(){Map<String,Integer> ipServerMap=new ConcurrentHashMap<>();ipServerMap.putAll(ipMap);Set<String> ipSet=ipServerMap.keySet();Iterator<String> ipIterator=ipSet.iterator();//定义一个list放所有serverArrayList<String> ipArrayList=new ArrayList<String>();//循环set，根据set中的可以去得知map中的value，给list中添加对应数字的server数量while (ipIterator.hasNext()){String serverName=ipIterator.next();Integer weight=ipServerMap.get(serverName);for (int i=0;i<weight;i++){ipArrayList.add(serverName);}}//循环随机数Random random=new Random();//随机数在list数量中取（1-list.size）int pos=random.nextInt(ipArrayList.size());String serverNameReturn= ipArrayList.get(pos);return  serverNameReturn;}public static void main(String[] args) {TestRobinRandom testRobinRandom=new TestRobinRandom();for (int i =0;i<10;i++){String server=testRobinRandom.RobinRandom();System.out.println(server);}}
}

5.IP_Hash算法：

package com.test.loadbalance;import java.util.ArrayList;
import java.util.HashMap;
import java.util.Map;
import java.util.Set;
import java.util.concurrent.ConcurrentHashMap;/*** Title:* Description:** @author Created by Julie* @version 1.0* @date on 18:35 2017/10/26*/
public class ipHash {//    1.定义map, key-ip,value-weightstatic Map<String,Integer> ipMap=new HashMap<>();static {ipMap.put("192.168.13.1",1);ipMap.put("192.168.13.2",2);ipMap.put("192.168.13.3",4);}public String ipHash(String clientIP){Map<String,Integer> ipServerMap=new ConcurrentHashMap<>();ipServerMap.putAll(ipMap);//    2.取出来key,放到set中Set<String> ipset=ipServerMap.keySet();//    3.set放到list，要循环list取出ArrayList<String> iplist=new ArrayList<String>();iplist.addAll(ipset);//对ip的hashcode值取余数，每次都一样的int hashCode=clientIP.hashCode();int serverListsize=iplist.size();int pos=hashCode%serverListsize;return iplist.get(pos);}public static void main(String[] args) {ipHash iphash=new ipHash();String servername= iphash.ipHash("192.168.21.2");System.out.println(servername);}}