JDK线程池CompletionService的使用

最近使用多线程优化了一个非常耗时的ping任务，下面的是未优化的源代码，大致就是遍历es取出的list，然后循环判断是否能ping通：

SearchResponse searchResponse = client.search(searchRequest);
Iterator it = searchResponse.getHits().iterator();
while (it.hasNext()) {boolean isReachAble = false;SearchHit hit = (SearchHit) it.next();Link link = new Link();Map<String, Object> map = hit.getSourceAsMap();String area = (String) map.get("area");if ("上海".equals(area)) {//过滤掉上海地区continue;}List<String> getways = (List<String>) map.get("gateway");//一旦能连通其中任一网关则代表连接成功for (String getway : getways) {//这个isIpReachable很耗时if (isIpReachable(getway)) {isReachAble = true;break;}}link.setArea(area);link.setIsLink(isReachAble ? 1 : 0);links.add(link);
}

多线程的话现在基本都是直接使用线程池了吧，如下面第一行代码就能创建一个线程数为4的线程池：

ExecutorService executorService = Executors.newFixedThreadPool(4);
CompletionService<String> pool = new ExecutorCompletionService<String>(executorService);

第二行的这个CompletionService是我们今天介绍的重点，它与默认的ExecutorService的最大区别就是：

通过executorService来submit的task不一定是按照加入自己维护的list顺序完成的；从list中遍历的每个Future对象并不一定处于完成状态，这时调用get()方法就会被阻塞住，如果系统是设计成每个线程完成后就能根据其结果继续做后面的事，这样对于处于list后面的但是先完成的线程就会增加了额外的等待时间。

而CompletionService的实现是维护一个保存Future对象的BlockingQueue。只有当这个Future对象状态是结束的时候，才会加入到这个Queue中，take()方法其实就是Producer-Consumer中的Consumer。它会从Queue中取出Future对象，如果Queue是空的，就会阻塞在那里，直到有完成的Future对象加入到Queue中。

所以，先完成的必定先被取出。这样就减少了不必要的等待时间

好了废话不多说，直接上优化后的代码：

//response中包含从es中取到的数据
SearchResponse searchResponse = client.search(searchRequest);
Iterator it = searchResponse.getHits().iterator();//创建固定数目线程的线程池
ExecutorService executorService = Executors.newFixedThreadPool(4);
CompletionService<String> pool = new ExecutorCompletionService<String>(executorService);
List<Future<String>> resultList = new ArrayList<>();
while (it.hasNext()) {SearchHit hit = (SearchHit) it.next();Map<String, Object> map = hit.getSourceAsMap();List<String> getways = (List<String>) map.get("gateway");String area = (String) map.get("area");if ("上海".equals(area)) {//过滤掉上海地区continue;}//将耗时任务submit到线程池中resultList.add(pool.submit(() -> {long t1 = System.currentTimeMillis();boolean isReachAble = false;Link link = new Link();//一旦能连通其中任一网关则代表连接成功for (String getway : getways) {if (isIpReachable(getway)) {isReachAble = true;break;}}link.setArea((String) map.get("area"));link.setIsLink(isReachAble ? 1 : 0);links.add(link);long t2 = System.currentTimeMillis();return "task " + map.get("area") + " completed.耗时：" + (t2 - t1);}));
}
//如果没有下面的代码，主线程将直接返回
for(int i = 0; i < resultList.size(); i++){//在取到数据之前将会一直阻塞String result = pool.take().get();System.out.println(result);
}

我特地将单线程和多线程运行结果做了个对比，可以看到多线程优化过后时间减了一半之多