使用shardingsphere-jdbc查询犯的低级错误,union all 字段没对齐,导致分片值有空值或数据不对,分片结果不对
有个数据同步的功能,对应的表使用到了shardingsphere-jdbc进行分表,所以想着是用shardingsphere-jdbc取数据再shardingsphere-jdbc的分片规则同步插入其他数据库,完成数据的同步
- 用shardingsphere-jdbc查询从控制台可以看到是使用union all进行对分表的结果整合的:
Actual SQL: ds0 ::: SELECT * FROM box_0 a WHERE a.create_time >= ? or a.update_time >= ? UNION ALL SELECT * FROM box_1 a WHERE a.create_time >= ? or a.update_time >= ? UNION ALL .........
- union all 只会数据合并在一起,而不会根据字段的名字一一对应
因为数据库的表结构被人改动过,导致两边的数据的表字段顺序是对应不上的,所以uniion all 出来的结果是和预期对不上的
- 如果分片值出现空值的时候就会报错,分片值不能对应上的话,最后的分表结果也是对应不上的,所以一定要注意保证分片值的正确性
一开始是用表与表之间的同步(就是box_0,box_1…box_22…一张表一张表地同步数据),把所有表的同步都放在同一个事务中,保证整个分表的数据一致性,但是分表太多,避免大事务的出现,所有才用回shardingsphere-jdbc
如有更好的解决方案请评论发我,谢谢~