目录
1 需求概述
1)时间戳
2)触发器
3)差异更新
4)日志解析
2 产品实施
1)数据同步
2)同步日志
3)流量统计
4)数据比对
1 需求概述
数据同步用于将不同数据库系统产生的数据进行单向或双向传输,实时或定时实现不同系统的数据一致,满足数据共享或数据分析需要。
实现数据同步通常采用以下方式:
1)时间戳
通过数据特定的属性(如时间戳,流水号)来识别新插入或修改的数据,其值随着数据新增或修改而不断递增,对于物理删除的数据无法进行同步,适合于同步实时性要求不高的应用场景。
2)触发器
通过数据库的触发器机制来捕获数据增、删、改操作,会降低业务系统的性能,一些生产系统不允许使用触发器,用于实时性要求不高的应用场景。
3)差异更新
通过比较源表和目标表来获得数据变化,需要消耗较多的存储和计算资源,通过数据散列值缓冲方式可以改善同步性能,适用于总体数据量不大且同步实时性要求不高的应用场景。
4)日志解析
通过解析源库日志捕获数据增、删、改操作,完整还原交易事务,对业务系统影响较小,用于实时同步应用场景。
2 产品实施
1)数据同步
灵蜂数据集成软件BeeDI支持各类主流数据库(Oracle、SQL Server、MySQL、DB2、PostgreSQL、人大金仓、达梦等)间数据同步,支持时间戳、触发器、差异更新、日志解析四种数据同步方式,满足各种定时或实时应用场景。
配置、启动同步任务,调度窗口查看同步任务最近运行情况。
2)同步日志
BeeDI提供详细任务运行日志,便于跟踪了解同步任务运行详情。
3)流量统计
BeeDI提供流量统计功能,便于汇总分析数据同步结果。
4)数据比对
BeeDI提供数据比对功能,确保同步数据一致性。