学无止境,活到老学到老,每天都问自己进步了吗?
1.背景
由于公司每天有至少1500个表单发起,处理待办任务至少7000个,累计历史任务数据已经达到200多w条,时间一长,通过数据库查询已办的任何和我发起的流程巨慢
所以我们考虑到这些数据能不能放入ES或者是mongodb中
流程中心1.0版本集成的是ES,速度确实非常快,提升查询性能近万倍,但是由于ES是一个全文检索的系统,对我们这些业务数据来说,不是很适合,比方说
我们的表单数据,他直接给分词了,不符合业务的要求。
流程中心2.0版本我们就改成mongodb,速度一样达到es的查询效果,解决了以前分词的问题,而且数据结构化查询也非常方便。
2.集成mongodb策略
集成mongodb的策略有两种
2.1.利用flowable提供的mongodb的插件来集成,具体可以参考他们提供的demo
2.2通过流程实例id和任务id查询表数据,做加工处理,然后在通过消息队列的方式同步到mongodb中
第一种方式就相当于把历史表的数据全部搬到mongodb中,在关系型数据库中不存放任何历史数据,正是由于中原因,我担心历史数据的丢失,所以我采用的是
第二种策略,关系数据库中有一份数据,在mongodb中我也有一份加工后的数据,以保证万无一失。
3.具体实现
3.1 同步数据
@Component
@RabbitListener(queues = FlowConstant.FLOWABLE_HISTORY_DATAS, containerFactory = "rabbitListenerContainerFactory")
public class HisDataSyncReceiver {private static Logger logger = LoggerFactory.getLogger(HisDataSyncReceiver.class);@Autowiredprivate ISyncHisService syncHisService;@RabbitHandlerpublic void process(@Payload String message) {if (StringUtils.isNotBlank(message)) {logger.info("接受到的数据为:" + message);try {Thread.sleep(100);SynHisDataVo data = (SynHisDataVo) JsonUtils.jsonToObj(message, SynHisDataVo.class);String type = data.getType();String id = data.getId();String processStaus = data.getProcessStatus();if (type.equals(SynHisDataEnum.EXECUTION.getSn())) {syncHisService.syncExecution(id,processStaus);} else if (type.equals(SynHisDataEnum.TASK.getSn())) {syncHisService.syncTask(id,processStaus);} else {logger.error("历史队列中错误的数据" + message, message);}} catch (Exception e) {logger.error("历史队列中错误的数据"+ message, e);}}}
}
3.2 查询mongodb的任务数据
public PagerModel<SearchTaskVo> querySearchTaskVoPagerModel(QueryTaskVo params, Query query) {org.springframework.data.mongodb.core.query.Query queryParams = new org.springframework.data.mongodb.core.query.Query();queryParams.addCriteria(Criteria.where("endTime").exists(true));if (StringUtils.isNotBlank(params.getAssignee())) {queryParams.addCriteria(Criteria.where("assignee").is(params.getAssignee().trim()));}if (StringUtils.isNotBlank(params.getCreator())) {queryParams.addCriteria(Criteria.where("creator").is(params.getCreator().trim()));}if (StringUtils.isNotBlank(params.getCreateName())) {queryParams.addCriteria(Criteria.where("creatorName").is(params.getCreateName().trim()));}if (StringUtils.isNotBlank(params.getExecutionName())) {Pattern pattern = Pattern.compile("^.*" + params.getExecutionName().trim() + ".*$", Pattern.CASE_INSENSITIVE);//通过流程标题或流程编号复合查询Criteria criteriaNameOrKey = new Criteria();criteriaNameOrKey.orOperator(Criteria.where("procInstName").regex(pattern),Criteria.where("businessKey").regex(pattern),Criteria.where("creatorName").regex(pattern));queryParams.addCriteria(criteriaNameOrKey);}if (params.getProcessStatus() != null) {queryParams.addCriteria(Criteria.where("processStatus").is(params.getProcessStatus().trim()));}if (StringUtils.isNotBlank(params.getStartTime()) && StringUtils.isNotBlank(params.getEndTime())) {queryParams.addCriteria(Criteria.where("startTime").gte(params.getStartTime().trim()).lte(params.getEndTime().trim()));}if (StringUtils.isNotBlank(params.getSystemSn())) {queryParams.addCriteria(Criteria.where("systemSn").is(params.getSystemSn().trim()));}queryParams.with(new Sort(Sort.Direction.DESC, "endTime"));int i = query.getInitPageIndex() < 1 ? 1 : query.getInitPageIndex();queryParams.skip((i - 1) * query.getPageSize()).limit(query.getPageSize());List<SearchTaskVo> datas = mongoTemplate.find(queryParams, SearchTaskVo.class, SearchTaskVo.TASK_TABLE);long count = mongoTemplate.count(queryParams, SearchTaskVo.TASK_TABLE);//去重datas = this.removal(datas);//翻译转阅this.turnReadTaskData(datas);//排序if (MapUtils.isNotEmpty(params.getOrderbyMap())){this.taskCommonSort(params.getOrderbyMap(),datas);}PagerModel<SearchTaskVo> pm = new PagerModel<>(count, datas);return pm;}
3.3.查询mongodb的实例数据
public PagerModel<SearchExecutionVo> querySearchExecutionVoPagerModel(QueryTaskVo params, com.dragon.tools.pager.Query query) {Query queryParams = new Query();//创建者工号if (StringUtils.isNotBlank(params.getCreator())) {queryParams.addCriteria(Criteria.where("startUser").is(params.getCreator()));}//创建者姓名if (StringUtils.isNotBlank(params.getCreateName())) {queryParams.addCriteria(Criteria.where("creatorName").is(params.getCreateName()));}if (StringUtils.isNotBlank(params.getProcessDefinitionKey())) {queryParams.addCriteria(Criteria.where("proDefKey").is(params.getProcessDefinitionKey()));}else {//转阅流程在已发不让显示queryParams.addCriteria(Criteria.where("proDefKey").ne(FlowConstant.TURN_READ));}if (StringUtils.isNotBlank(params.getExecutionName())) {Pattern pattern = Pattern.compile("^.*" + params.getExecutionName() + ".*$", Pattern.CASE_INSENSITIVE);// queryParams.addCriteria(Criteria.where("name").regex(pattern));// queryParams.addCriteria(Criteria.where("businessKey").regex(pattern));//通过流程标题或流程编号复合查询Criteria criteriaNameOrKey= new Criteria();criteriaNameOrKey.orOperator(Criteria.where("name").regex(pattern),Criteria.where("businessKey").regex(pattern));queryParams.addCriteria(criteriaNameOrKey);}if (StringUtils.isNotBlank(params.getProcessStatus())) {queryParams.addCriteria(Criteria.where("processStatus").is(params.getProcessStatus().trim()));}if (StringUtils.isNotBlank(params.getStartTime()) && StringUtils.isNotBlank(params.getEndTime())) {queryParams.addCriteria(Criteria.where("startTime").gte(params.getStartTime().trim()).lte(params.getEndTime().trim()));}if (StringUtils.isNotBlank(params.getSystemSn())) {queryParams.addCriteria(Criteria.where("systemSn").is(params.getSystemSn().trim()));}//默认开始时间降序queryParams.with(new Sort(Sort.Direction.DESC, "startTime"));queryParams.skip(((query.getInitPageIndex()==0?1:query.getInitPageIndex())-1)*query.getPageSize()).limit(query.getPageSize());List<SearchExecutionVo> datas = mongoTemplate.find(queryParams, SearchExecutionVo.class, SearchExecutionVo.EXECUTION_TABLE);//当前审批人查询出来this.createApprover(datas);//转阅流程特殊处理this.turnReadExecutionData(datas);if (MapUtils.isNotEmpty(params.getOrderbyMap())){this.excutionCommonSort(params.getOrderbyMap(),datas);}long count = mongoTemplate.count(queryParams, SearchExecutionVo.class, SearchExecutionVo.EXECUTION_TABLE);return new PagerModel<>(count, datas);}