Java开源专业计算引擎：跑批真的这么难吗？

业务系统产生的明细数据通常要经过加工处理，按照一定逻辑计算成需要的结果，用以支持企业的经营活动。这类数据加工任务一般会有很多个，需要批量完成计算，在银行和保险行业常常被称为跑批，其它像石油、电力等行业也经常会有跑批的需求。

大部分业务统计都会要求以某日作为截止点，而且为了不影响生产系统的运行，跑批任务一般会在夜间进行，这时候才能将生产系统当天产生的新明细数据导出来，送到专门的数据库或数据仓库完成跑批计算。第二天早上，跑批结果就可以提供给业务人员使用了。

和在线查询不同，跑批计算是定时自动执行的离线任务，不会出现多人同时访问一个任务的情况，所以没有并发问题，也不必实时返回结果。但是，跑批必须在规定的窗口时间内完成。比如某银行的跑批窗口时间是晚上8:00到第二天早上7:00，如果到了早上7:00跑批任务还没有完成，就会造成业务人员无法正常工作的严重后果。

跑批任务涉及的数据量非常大，很可能用到所有的历史数据，而且计算逻辑复杂、步骤众多，所以跑批时间经常是以小时计的，一个任务两三小时是家常便饭，跑到十个小时也不足为奇。随着业务的发展，数据量还在不断增加。跑批数据库的负担快速增长，就会发生整晚都跑不完的情况，严重影响用户的业务，这是无法接受的。

问题分析

要解决跑批时间过长的问题，必须仔细分析现有的系统架构中的问题。

跑批系统比较典型的架构大致如下图：

从图上看，数据要从生产数据库取出，存入跑批数据库。跑批数据库通常是关系型的，编写存储过程代码完成跑批计算。跑批的结果一般不会直接使用，而是再从跑批数据库中导出，采用接口文件的方式提供给其他系统，或者再导入其他系统数据库。这是比较典型的架构，图中的生产数据库也可能是某个中央数据仓库或者Hadoop等。一般情况下，生产库和跑批库不会是同一种数据库，它们之间往往通过文件的方式传递数据，这样也比较有利于降低耦合度。跑批计算完成后，结果要给多个应用系统使用，一般也都是以文件方式传递。

跑批很慢的第一个原因，是用来完成跑批任务的关系数据库入库、出库太慢。由于关系数据库的存储和计算能力具有封闭性，数据的进出要做过多的约束检查和安全处理，当数据量较大时，写入读出的效率非常低，耗时会非常长。所以，跑批数据库导入文件数据的过程，以及跑批计算结果再导出文件的过程都会很慢。

跑批很慢的第二个原因，是存储过程性能差。由于SQL的语法体系过于陈旧，存在诸多限制，很多高效的算法无法实施，所以存储过程中的SQL语句计算性能很不理想。而且，业务逻辑比较复杂的时候很难用一个SQL实现，经常要分成多个步骤，用十几甚至几十个SQL语句才能完成。每个SQL的中间结果，都要存入临时表给后续步骤的SQL使用。临时表数据量较大时就必须落地，会造成大量的数据写出。而数据库的写出要比读入性能差很多，会严重拖慢整个存储过程。

对于更复杂的计算，甚至很难用SQL语句直接实现，需要用数据库游标遍历取出数据，循环计算。但数据库游标遍历计算性能又要比SQL语句差很多，一般也都不直接支持多线程并行计算，很难利用多CPU核的计算能力，会让计算性能更加糟糕。

那么，是否可以考虑用分布式数据库来代替传统关系数据库，通过增加节点数量的办法，来提高跑批任务的速度呢？

答案仍然是不可行。主要原因是跑批计算的逻辑相当复杂，即使是用传统数据库的存储过程，也常常要写几千甚至上万行代码，而分布式数据库的存储过程计算能力还比较弱，很难实现这么复杂的跑批计算。

而且，当复杂计算任务不得不分成多个步骤时，分布式数据库也面临中间结果落地的问题。由于数据可能在不同的节点上，所以前序步骤将中间结果落地，后续步骤再读取的时候，都会造成大量跨网络的读写操作，性能很不可控。

这时，也不能采用分布式数据库依靠数据冗余来提升查询速度的办法。这是因为，查询之前可以预先准备好多份冗余数据，但是，跑批的中间结果是临时生成的，如果冗余的话就要临时生成多份，整体的性能只会变得更慢。

所以，现实的跑批业务通常仍然是使用大型单体数据库进行，计算强度太大时会采用类似ExaData这样的一体机（ExaData是多数据库，但被Oracle专门优化过，可以看成是个超大型单体数据库）。虽然很慢，但是暂时找不到更好的选择，只有这类大型数据库有足够的计算能力，所以只能用它来完成跑批任务了。

SPL用于跑批

开源的专业计算引擎SPL提供了不依赖数据库的计算能力，直接利用文件系统计算，可以解决关系数据库出库入库太慢的问题。而且SPL实现了更优算法，性能远远超过存储过程，能显著提高单机计算效率，非常适合跑批计算。

利用SPL实现的跑批系统新架构是下面这样的：

在新架构中，SPL解决了造成跑批慢的两大瓶颈问题。

首先来看数据的入库、出库问题。SPL可以直接基于生产库导出的文件计算，不必再将数据导入到关系数据库中。完成跑批计算后，SPL还能将最终结果直接存储成文本文件等通用格式，传递给其他应用系统，避免了原有跑批数据库的出库操作。这样一来，SPL就省去了关系数据库缓慢的入库、出库过程。

下面再来看计算的过程。SPL提供了更优的算法（有许多是业界首创），计算性能远远超过存储过程和SQL语句。这些高性能算法包括：

这些高性能算法可以应用于跑批任务中的常见JOIN计算、遍历、分组汇总等，能有效提升计算速度。例如，跑批任务常常要遍历整个历史表。有些情况下，对一个历史表还要遍历好多次，来完成多种业务逻辑的计算。历史表数据量一般都很大，每次遍历都要消耗很多的时间。此时我们可以应用SPL的遍历复用机制，仅对大表遍历一次，就可以同时完成多种计算，可以节省大量时间。

SPL的多路游标能做到数据的并行读取和计算，即使是很复杂的跑批逻辑，也可以利用多CPU核实现多线程并行运算。而数据库游标是很难并行的，这样一来，SPL的计算速度常常可以达到存储过程的数倍。

SPL的延迟游标机制，可以在一个游标上定义多个计算步骤，之后让数据流按顺序依次完成这些步骤，实现链式计算，能够有效减少中间结果落地的次数。在数据必须落地的情况下，SPL也可以将中间结果存成内置的高性能数据格式，供下一个步骤使用。SPL高性能存储基于文件，采用有序压缩存储、自由列式存储、倍增分段、自有压缩编码等技术，减少了硬盘占用，读写速度要远远好于数据库。