从 Oracle 到 MySQL 数据库的迁移之旅

文章目录

  • 引言
  • 一、前期准备工作
    • 1.搭建新的MySQL数据库
    • 2 .建立相应的数据表
      • 2.1 数据库兼容性分析
        • 2.1.1 字段类型兼容性分析
        • 2.1.2 函数兼容性分析
        • 2.1.3 是否使用存储过程?存储过程的个数?复杂度?
        • 2.1.4 是否使用触发器?个数?使用的场景?
      • 2.2 建表过程中其他需要注意的事项
    • 3.为项目配置Oracle和MySQL双数据源
    • 4.对项目进行改造添加MySQL数据CRUD代码
  • 二、数据迁移操作步骤
      • 1、配置初始化
      • 2、同步数据检查
      • 3、全量数据迁移
      • 4、检查全量迁移的数据
      • 5、开启双写
      • 6、获取迁移过程中oracle数据库的增量数据
      • 7、增量数据脚本准备
      • 8、数据补偿
      • 9、核对整体数据
      • 10、在灰度环境里验证数据的正确性
      • 11、数据库读取的配置设置为从MySQL数据库读取。
      • 12、数据库写入的配置设置为只写MySQL
  • 三、数据迁移的经验教训
    • 1. 遇到的坑

引言

随着技术的进步,许多企业开始考虑将他们的数据从Oracle迁移到更现代、成本效益更高的数据库系统如MySQL或PostgreSQL。本文将详细描述我们如何进行这样的数据迁移过程。

一、前期准备工作

1.搭建新的MySQL数据库

​ 首先,我们需要设置一个新的MySQL数据库环境,这将作为我们的新数据源。这包括安装MySQL服务器,创建数据库,以及配置适当的用户权限。

2 .建立相应的数据表

​ 我们可以使用PowerDesigner等数据表模型设计工具,将Oracle的模型转换成MySQL模型,然后根据这个模型生成DDL脚本。这些脚本可能需要根据实际情况进行一些修改。例如,我们可能需要调整字段类型以适应MySQL的特性,或者修改索引和约束的定义。

2.1 数据库兼容性分析

2.1.1 字段类型兼容性分析

以下是常用的oracle字段类型和和mysql字段类型的对应关系 ,如果使用特殊的字段类型,需要检查确认字段转换是否符合真实需求。

oracle字段类型mysql字段类型
varchar2varchar
number(1,0))->number(2,0)tinyint
number(3,0)->number(4,0)smallint
number(5,0)->number(6,0)mediumint
number(7,0)->number(9,0)int
number(10,0) -> number(18,0)bigint
number(x,y)decimal(x,y)
datedatetime
timestamp(6)datetime
charvarchar
clobText 或 Midiumtext 或 longtext
2.1.2 函数兼容性分析

Oracle和MySQL的函数有一定对的相似性也要有一定的区别,下面表格列出了Oracle和MySQL常用函数的对比和区别。

功能oracle函数mysql函数备注
舍入函数roundround一样
取绝对值absabs一样
返回 expr 的最小或最大值Max(expr)/Min(expr)Max(expr)/Min(expr)一样
在字符串 str 中所有出现的字符串 from_str 均被 to_str 替换REPLACE(str,from_str,to_str)REPLACE(str,from_str,to_str)一样
截取函数SUBSTR(‘abcd’,2,2)substring(‘abcd’,2,2)函数名称不同
获取长度length(str)char_length()函数名称不同
转大写UPPER(str)UPPER(str)一样
转小写LOWER(str)LOWER(str)一样
转字符TO_CHAR(SQLCODE)date_format/ time_format函数名称不同
转时间to_date(str,format)STR_TO_DATE(str,format)函数名称不同
获取当前时间SYSDATEnow() / SYSDATE()函数名称不同
求和SUM(num)SUM(num)一样
返回两个日期之间的天数(D1-D2)DATEDIFF(date1,date2)
2.1.3 是否使用存储过程?存储过程的个数?复杂度?

在这次的案例中,没有使用存储过程,因此不需要进行这方面的分析。

2.1.4 是否使用触发器?个数?使用的场景?

公司的数据库使用规范里禁止使用触发器,因此这次也不需要进行这方面的分析。

2.2 建表过程中其他需要注意的事项

  • 自增主键 mysql默认需要有自增主键,而oracle的表可以不加主键
  • 编码格式:oracle的编码格式utf8在mysql需要修改成utf8mb4 要确保所有的表都有一个自增的主键列。
  • 时间字段:时间字段需要精确到时分秒的需要修改为datatime类型。这是因为MySQL的DATETIME类型可以存储到秒级别的时间信息,而Oracle的DATE类型只能存储到天级别的时间信息。
  • 索引格式:索引格式需要按照规范重新定义,最好在测试环境中进行检查和校验。这是因为Oracle和MySQL的索引实现方式有所不同,直接复制索引可能会导致性能问题。

3.为项目配置Oracle和MySQL双数据源

在项目的数据源配置里添加刚刚新建的MySQL数据源配置,并配置双数据源和Mapper的匹配规则。

4.对项目进行改造添加MySQL数据CRUD代码

添加一套针对MuSQL数据库CRUD的Dao和Mapper代码,同时我们写了一个注解以切面的方式实现根据配置实例化Oracle的Dao、MySQl的Dao、同时调用Oracle和MySQLDao的功能。

改造方式:
请添加图片描述

数据库迁移切换流程:
请添加图片描述

二、数据迁移操作步骤

数据迁移操作的答题步骤如下图所示:
请添加图片描述

1、配置初始化

​ 数据库写入的配置设置为只写Oracle数据库。数据库读取的配置设置为从OracleL数据库读取。

2、同步数据检查

​ 查询待迁移的几张表的数据量:

​ select count(1) from table;

3、全量数据迁移

​ 在迁移工具上执行数据迁移脚本SQL

4、检查全量迁移的数据

​ 查询迁移后的数据量,检查是否和需要迁移的数据量能匹配:

5、开启双写

数据库写入的配置设置为Oracle数据库和MYSQl数据库双写

6、获取迁移过程中oracle数据库的增量数据

查询updated_time在全量数据迁移开始时间之后的数据

select * from table whereupdated_time>to_Date(‘2022/12/16 04:00:00’, ‘yyyy/mm/dd hh24:mi:ss’)

7、增量数据脚本准备

根据监控的增量数据对比,找出需要新增和修改的数据,准备脚本

8、数据补偿

在迁移工具上执行数据补偿脚本SQL

9、核对整体数据

我们有额外的数据核对方案,通过应用读Oracle,再异步读取MySQL并进行对比的方式进行业务表的数据核对。这样可以确保数据的一致性。

10、在灰度环境里验证数据的正确性

将灰度机器的数据库读取的配置设置为从MySQL数据库读取。并在灰度环境验证数据的正确性

11、数据库读取的配置设置为从MySQL数据库读取。

将正式环境的机器的数据库读取的配置设置为从MySQL数据库读取。

12、数据库写入的配置设置为只写MySQL

在生产环境运行一段时间,如果运行平稳的话,就可以关闭数据库双写,将数据库写入配置改为只写MySQL数据库了。

三、数据迁移的经验教训

1. 遇到的坑

在迁移过程中,我们发现了一些Oracle语法与MySQL语法不兼容的地方,有些写法在Oracle中可行,在MySQL中会报错:

(1)子查询语句要取别名

(2)字段别名需要注意,AS后是否为空

(3)条件语句中判断需要注意

(4)oracle转mysql条件语句is null需格外注意,在Oracle中null和空串是一个含义,在mysql中是两个含(只针对字段类型为varchar类型的字段)

Oracle中:
IS_LIMIT_SUCESS is null
Mysql替换为:
(IS_LIMIT_SUCESS is null or IS_LIMIT_SUCESS = '') 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/809031.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Paper Reading: MixTeacher:半监督目标检测中利用混合尺度教师挖掘有前景的标签

目录 简介目标/动机工作重点方法训练 实验总结 简介 题目:《MixTeacher: Mining Promising Labels with Mixed Scale Teacher for Semi-Supervised Object Detection》, CVPR 2023 日期:2023.3.16 单位:腾讯,上海交…

竞赛 图像识别-人脸识别与疲劳检测 - python opencv

文章目录 0 前言1 课题背景2 Dlib人脸识别2.1 简介2.2 Dlib优点2.3 相关代码2.4 人脸数据库2.5 人脸录入加识别效果 3 疲劳检测算法3.1 眼睛检测算法3.3 点头检测算法 4 PyQt54.1 简介4.2相关界面代码 5 最后 0 前言 🔥 优质竞赛项目系列,今天要分享的是…

Android MVVM架构学习——ViewModel DataBinding

关于MVVM架构,我并不想花篇幅去做重复性的描述,网上一搜都是一堆讲解,大家可以自行了解,我所做的只是以最简单的例子,最有效的步骤,从零开始,去实现一个相对有点学习参考价值的项目。 先来看本…

计算机网络——NAT技术

目录 前言 前篇 引言 SNAT(Source Network Address Translation)源网络地址转换 SNAT流程 确定性标记 DNAT(Destination Network Address Translation,目标网络地址转换) NAT技术重要性 前言 本博客是博主用于…

无人新零售引领的创新浪潮

无人新零售引领的创新浪潮 在数字化时代加速演进的背景下,无人新零售作为商业领域的一股新兴力量,正以其独特的高效性和便捷性重塑着传统的购物模式,开辟了一条充满创新潜力的发展道路。 依托人脸识别、物联网等尖端技术,无人新…

Redis中的集群(七)

集群 ASK错误 ASKING命令 ASKING命令唯一要做的就是打开发送该命令的客户端的REDIS_ASKING标识,以下是该命令的伪代码实现: def ASKING(): # 打开标识 client.flags | REDIS_ASKING# 向客户端返回OK回复 reply("OK")在一般情况下,如果客户…

搜维尔科技:【煤矿安全仿真】煤矿事故预防处置VR系统,矿山顶板灾害,冲击地压灾害等预防演练!

产品概述 煤矿事故预防处置VR系统 系统内容: 事故预防处置VR系统的内容包括:火灾的预防措施、火灾预兆、防灭火系统、火灾案例重现、顶板事故预兆、顶板事故原因、顶板事故案例重现、瓦斯概念及性质、瓦斯的涌出形式、瓦斯预兆、瓦斯爆炸条件及预防措…

数据结构之排序了如指掌(一)

目录 题外话 正题 排序概念 稳定性 直接插入排序 直接插入排序代码详解 直接插入排序复杂度分析 希尔排序(缩小增量排序) 希尔排序代码详解 小结 题外话 昨晚肚子疼没睡好,今天博客写的确实有点晚(找个借口),我一定会坚持,不辜负热爱我的家人们!! 正题 排序概念 一串…

苍穹外卖jwt令牌p10

点击小虫(进入断点调试),打上断点,然后前端点击登录(此时前端的数据会作为参数传入): 光标放在字段上还会显示接收到的数据: 若想程序在所希望的地方停止,可以添加断点&a…

《战神4》和《战神5》有什么联系吗 苹果电脑如何运行《战神4》苹果电脑玩战神 Mac玩游戏 战神5攻略 crossover激活码

《战神4》(God of War 2018)和《战神5》(God of War: Ragnark)是一对引人注目的游戏作品,它们不仅在游戏界引起了广泛的关注,也给玩家带来了深入探索北欧神话世界的机会。这两部游戏之间的联系不仅体现在剧…

【力扣】101. 对称二叉树

101. 对称二叉树 题目描述 给你一个二叉树的根节点 root , 检查它是否轴对称。 示例 1: 输入:root [1,2,2,3,4,4,3] 输出:true 示例 2: 输入:root [1,2,2,null,3,null,3] 输出:false 提示…

JavaWeb开发01--Maven-Web入门-请求响应-分层解耦

一、Maven 1.maven概述 Apache Maven是一个项目管理和构建工具,它基于项目对象模型(POM)的概念,通过一小段描述信息来管理项目的构建。 根据提供的插件实现很多功能 maven的作用 管理和构建java项目的工具 依赖管理:可以直接在pom.xml文件…

深入理解MD5算法:原理、应用与安全

title: 深入理解MD5算法:原理、应用与安全 date: 2024/4/11 20:55:57 updated: 2024/4/11 20:55:57 tags: MD5算法数据安全哈希函数摘要算法安全漏洞SHA算法密码学 第一章:引言 导言 在当今数字化时代,数据安全和完整性变得至关重要。消息…

【Leetcode每日一题】 动态规划 - 下降路径最小和(难度⭐⭐)(55)

1. 题目解析 题目链接:931. 下降路径最小和 这个问题的理解其实相当简单,只需看一下示例,基本就能明白其含义了. 2.算法原理 对于这类路径类问题,通常我们首先需要分析状态表示以及状态转移的过程。特别地,本题涉及…

The C programming language (second edition,KR) exercise(CHAPTER 3)

E x c e r c i s e 3 − 1 Excercise\quad 3-1 Excercise3−1:输出结果如图1所示,这里故意让二分搜索算法去寻找一个在数组中不存在在的数,然后去看两种二分搜索算法分别所花费的时间的大小,为了使得所花费的时间更具有可分辨性&a…

【HTML】制作一个简单的线性动画

目录 前言 HTML部分 CSS部分 JS部分 效果图 总结 前言 无需多言,本文将详细介绍一段HTML代码,具体内容如下: 开始 首先新建文件夹,创建一个文本文档,两个文件夹,其中HTML的文件名改为[index.html]&am…

面试经典算法系列之二叉树1 -- 从前序与中序遍历序列构造二叉树

面试经典算法16 - 从前序与中序遍历序列构造二叉树 LeetCode.105 公众号:阿Q技术站 问题描述 给定两个整数数组 preorder 和 inorder ,其中 preorder 是二叉树的先序遍历, inorder 是同一棵树的中序遍历,请构造二叉树并返回其根…

VUE typescript 调用stompjs[Rabbit MQ]

npm拉下来最新的2.3.9版本&#xff0c;发现一些原来Js代码已经不能用了。顺便解读了下最新定义的内容 // <reference types"node" />export const VERSIONS: {V1_0: string;V1_1: string;V1_2: string;supportedVersions: () > string[]; };export class C…

airtest-ios真机搭建实践

首先阅读4 ios connection - Airtest Project Docs 在Windows环境下搭建Airtest对iOS真机进行自动化测试的过程相对复杂&#xff0c;因为iOS的自动化测试通常需要依赖Mac OS系统&#xff0c;但理论上借助一些工具和服务&#xff0c;Windows用户也可以间接完成部分工作。下面是…

前端对接fastGPT流式数据+打字机效果

首先在对接api时 参数要设置stream: true, const data {chatId: abc,stream: true,//这里true返回流式数据detail: false,variables: {uid: sfdsdf,name: zhaoyunyao,},messages: [{ content: text, role: user }]}; 不要用axios发请求 不然处理不了流式数据 我这里使用fetch …