MySQL常用运维操作(一):快速复制一张表

假设有如下表结构:

-- 创建表db1.t
create database db1;
use db1;
create table t(id int primary key,a int, b int, index(a))engine=innodb;-- 向表t写入1000行数据
delimiter ;;create procedure idata()begindeclare i int;set i=1;while(i<=1000)doinsert into t values(i,i,i);set i=i+1;end while;end;;
delimiter ;
call idata();-- 创建表db2.t,与db1.t相同表结构
create database db2;
create table db2.t like db1.t

假设要把db1.t里面a>900的数据行导出来, 插入到db2.t中。

mysqldump方法


使用mysqldump命令将数据导出成一组INSERT语句。 你可以使用下面的命令,把结果输出到临时文件。

mysqldump -h$host -P$port -u$user --add-locks --no-create-info --single-transaction  --set-gtid-purged=OFF db1 t --where="a>900"--result-file=/client_tmp/t.sql

命令参数含义如下:

  1. –single-transaction的作用是, 在导出数据的时候不需要对表db1.t加表锁, 而是使用STARTTRANSACTION WITH CONSISTENTSNAPSHOT的方法。

  2. –add-locks设置为0, 表示在输出的文件结果里, 不增加" LOCKTABLES t WRITE;"。

  3. –no-create-info的意思是, 不需要导出表结构。

  4. –set-gtid-purged=off表示的是, 不输出跟GTID相关的信息。

  5. –result-file指定了输出文件的路径, 其中client表示生成的文件是在客户端机器上的。

通过这条mysqldump命令生成的t.sql文件中就包含了如图所示的INSERT语句。

注:如果你希望生成的文件中一条INSERT语句只插入一行数据的话, 可以在执行mysqldump命令时, 加上参数–skip-extended-insert。

然后,通过如下命令,把这些insert语句放到db2库里去执行。

mysql -h127.0.0.1 -P13000 -uroot db2 -e "source /client_tmp/t.sql"

需要说明的是, source并不是一条SQL语句, 而是一个客户端命令。 mysql客户端执行这个命令的流程是这样的:

  1. 打开文件, 默认以分号为结尾读取一条条的SQL语句。

  2. 将SQL语句发送到服务端执行。

换句话说,服务端执行的并不是这个“source t.sql”语句,而是insert语句。所以,不论是在慢查询日志(slow log),还是在binlog,记录的都是这些真正要被执行的insert语句。

导出CSV文件


把查询结果导出到服务端本地目录,MySQL语法命令:

select * from db1.t where a>900 into outfile '/server_tmp/t.csv';

使用该语句时应注意以下几点:

1)这条语句会将结果保存在服务端。如果你执行命令的客户端和MySQL服务端不在同一个机器上, 客户端机器的临时目录下是不会生成t.csv文件的。

2)into outfile指定了文件的生成位置(/server_tmp/) , 这个位置必须受参数secure_file_priv的限制。 参数secure_file_priv的可选值和作用分别是:

  1. 如果设置为empty, 表示不限制文件生成的位置, 这是不安全的设置。

  2. 如果设置为一个表示路径的字符串, 就要求生成的文件只能放在这个指定的目录, 或者它的子目录。

  3. 如果设置为NULL, 就表示禁止在这个MySQL实例上执行select …into outfile 操作。

3)如果设置为NULL, 就表示禁止在这个MySQL实例上执行select …into outfile 操作。

4)这条命令生成的文本文件中, 原则上一个数据行对应文本文件的一行。 但是, 如果字段中包含换行符, 在生成的文本中也会有换行符。 不过类似换行符、 制表符这类符号, 前面都会跟上“\”这个转义符, 这样就可以跟字段之间、 数据行之间的分隔符区分开。

得到.csv导出文件后, 你就可以用下面的load data命令将数据导入到目标表db2.t中。

load data infile '/server_tmp/t.csv' into table db2.t;

注:该语句是在服务器所在实例上执行。

该语句执行流程如下:

1)打开文件/server_tmp/t.csv, 以制表符(\t)作为字段间的分隔符, 以换行符(\n) 作为记录之间的分隔符, 进行数据读取。

2)启动事务。

3)判断每一行的字段数与表db2.t是否相同。

  1. 若不相同,则直接报错,事务回滚。

  2. 若相同,则构造一行,调用InnoDB引擎接口,写入到表中。

4)重复步骤3, 直到/server_tmp/t.csv整个文件读入完成, 提交事务。

问1:如果binlog_format=statement, 这个load语句记录到binlog里以后,怎么在备库重放呢?

答:由于/server_tmp/t.csv文件只保存在主库所在的主机上, 如果只是把这条语句原文写到binlog中,在备库执行的时候, 备库的本地机器上没有这个文件, 就会导致主备同步停止。

当binlog_format=statement,load data命令在备库上重放,具体流程:

1)主库执行完成后, 将/server_tmp/t.csv文件的内容直接写到binlog文件中。

2)往binlog文件中写入语句load data local infile ‘/tmp/SQL_LOAD_MB-1-0’ INTO TABLE`db2`.`t`。

3)把这个binlog日志传到备库。

4)备库的apply线程在执行这个事务日志时:

  1. 先将binlog中t.csv文件的内容读出来, 写入到本地临时目录/tmp/SQL_LOAD_MB-1-0中。

  2. 再执行load data语句, 往备库的db2.t表中插入跟主库相同的数据。

执行流程图:

注:这里备库执行的load data语句里面, 多了一个“local”。 它的意思是“将执行这条命令的客户端所在机器的本地文件/tmp/SQL_LOAD_MB-1-0的内容, 加载到目标表db2.t中”。

load data命令有两种用法:

  1. 不加“local”, 是读取服务端的文件, 这个文件必须在secure_file_priv指定的目录或子目录下。(主库重放)

  2. 加上“local”, 读取的是客户端的文件, 只要mysql客户端有访问这个文件的权限即可。 这时候, MySQL客户端会先把本地文件传给服务端, 然后执行上述的load data流程。(备库重放)

问2:select …into outfile方法不会生成表结构文件,如何生成表结构文件?

答:mysqldump提供了一个–tab参数, 可以同时导出表结构定义文件和csv数据文件。 这条命令的使用方法如下:

mysqldump -h$host -P$port -u$user ---single-transaction  --set-gtid-purged=OFF db1 t --where="a>900" --tab=$secure_file_priv

这条命令会在$secure_file_priv定义的目录下, 创建一个t.sql文件保存建表语句, 同时创建一个t.txt文件保存CSV数据。

物理拷贝


mysqldump方法和导出CSV文件的方法, 都是逻辑导数据的方法, 也就是将数据从表db1.t中读出来, 生成文本, 然后再写入目标表db2.t中。

思考:能不能直接把db1.t表的.frm文件和.idb文件直接拷贝到db2目录下(物理拷贝)?

答:不能。因为, 一个InnoDB表, 除了包含这两个物理文件外, 还需要在数据字典中注册。 直接拷贝这两个文件的话, 因为数据字典中没有db2.t这个表, 系统是不会识别和接受它们的。

MySQL 5.6版本引入了可传输表空间(transportable tablespace)的方法, 可以通过导出+导入表空间的方式, 实现物理拷贝表的功能。

假设目标在db1库下,复制一个跟表t相同的表r,具体执行步骤如下:

  1. 执行create table r like t, 创建一个相同表结构的空表。

  2. 执行alter table r discard tablespace, 这时候r.ibd文件会被删除。

  3. 执行flush table t for export, 这时候db1目录下会生成一个t.cfg文件。

  4. 在db1目录下执行cp t.cfg r.cfg; cp t.ibd r.ibd;这两个命令(这里需要注意的是, 拷贝得到的两个文件, MySQL进程要有读写权限)。

  5. 执行unlock tables, 这时候t.cfg文件会被删除。

  6. 执行alter table r import tablespace, 将这个r.ibd文件作为表r的新的表空间, 由于这个文件的数据内容和t.ibd是相同的, 所以表r中就有了和表t相同的数据。

该流程执行过程:

关于拷贝表的这个流程,有以下几个注意点:

  1. 在第3步执行完flsuh table命令之后, db1.t整个表处于只读状态, 直到执行unlock tables命令后才释放读锁。

  2. 在执行import tablespace的时候, 为了让文件里的表空间id和数据字典中的一致, 会修改r.ibd的表空间id。 而这个表空间id存在于每一个数据页中。 因此, 如果是一个很大的文件(比如TB级别) , 每个数据页都需要修改, 所以你会看到这个import语句的执行是需要一些时间的。 当然, 如果是相比于逻辑导入的方法, import语句的耗时是非常短的。

小结:思考题


上述三种复制表方法优缺点对比:

1)物理拷贝的方式速度最快, 尤其对于大表拷贝来说是最快的方法。 如果出现误删表的情况,用备份恢复出误删之前的临时库, 然后再把临时库中的表拷贝到生产库上, 是恢复数据最快的方法。 但是, 这种方法的使用也有一定的局限性:

  1. 必须是全表拷贝, 不能只拷贝部分数据。

  2. 需要到服务器上拷贝数据, 在用户无法登录数据库主机的场景下无法使用。

  3. 由于是通过拷贝物理文件实现的, 源表和目标表都是使用InnoDB引擎时才能使用。

2)用mysqldump生成包含INSERT语句文件的方法, 可以在where参数增加过滤条件, 来实现只导出部分数据。 这个方式的不足之一是, 不能使用join这种比较复杂的where条件写法。

3)用select …into outfile的方法是最灵活的, 支持所有的SQL写法。 但, 这个方法的缺点之一就是, 每次只能导出一张表的数据, 而且表结构也需要另外的语句单独备份。

思考:前面介绍binlog_format=statement的时候, binlog记录的load data命令是带local的。 既然这条命令是发送到备库去执行的, 那么备库执行的时候也是本地执行, 为什么需要这个local呢? 如果写到binlog中的命令不带local, 又会出现什么问题呢?

场景1:为了确保备库应用binlog正常。因为备库可能配置了secure_file_priv=null,所以如果不用local的话,可能会导入失败,造成主备同步延迟。

场景2:是使用mysqlbinlog工具解析binlog文件,并应用到目标库。使用下面命令 :把日志直接解析出来发给目标库执行。增加local,就能让这个方法支持非本地的$host。

mysqlbinlog $binlog_file | mysql -h$host -P$port -u$user -p$pwd

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/bicheng/63853.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Autosar CP RTE:一个例子简要介绍工作原理

以下是一个示例&#xff0c;展示如何通过AUTOSAR的RTE机制利用配置&#xff08;ARXML文件&#xff09;来实现软件组件集成&#xff0c;包含对应的C源代码以及模拟自动生成的RTE框架代码的示例。请注意&#xff0c;实际的AUTOSAR项目会复杂得多&#xff0c;这里只是一个简化且示…

实践项目3:温度采集系统

一、功能说明 基于AVR单片机设计一温度采集系统。该系统由一个主机和一个从机构成&#xff0c;能够实时检测并显示现场温度&#xff0c;当温度超过预置温度时&#xff0c;进行声光报警。 二、具体要求 1、主机与从机之间采用串口通信&#xff1b; 2、从机采集温度并通过串口…

React简单入门 - [Next.js项目] - 页面跳转、AntD组件、二级目录等

须知 1Next.js 官网(英文)https://nextjs.org/2Next.js 文档(中文)https://nextjscn.org/docs/3Ant Design组件总览https://ant-design.antgroup.com/components/overview-cn4tailwindcss类名大全 官网https://www.tailwindcss.cn/docs/justify-content 5tailwindcss常用类…

Python知识分享第25天-快速排序算法

快速排序算法 快速排序&#xff08;QuickSort&#xff09;是一种基于分治法的高效排序算法。它通过选择一个“基准”元素&#xff0c;将数组分成两个子数组&#xff0c;其中一个子数组的所有元素都比基准小&#xff0c;另一个子数组的所有元素都比基准大&#xff0c;然后递归地…

String【Redis对象篇】

&#x1f3c6; 作者简介&#xff1a;席万里 ⚡ 个人网站&#xff1a;https://dahua.bloggo.chat/ ✍️ 一名后端开发小趴菜&#xff0c;同时略懂Vue与React前端技术&#xff0c;也了解一点微信小程序开发。 &#x1f37b; 对计算机充满兴趣&#xff0c;愿意并且希望学习更多的技…

我们来学mysql -- MSI安装(安装篇)

主题 书接上文&#xff0c;在《探讨win安装方式》中官方推荐MSI要是把大厂的标准奉为圭臬&#xff0c;说啥认啥&#xff0c;他一翻脸&#xff0c;小丑不就是咱了再说了&#xff0c;都干到家门口了8.4版本官方文档&#xff0c;还不给他梭罗下 MSI 点击**.msi弹出MySQL Install…

【IC面试问题:UCIE PHY LSM AXI Cache】

IC面试问题&#xff1a;UCIE PHY LSM && AXI && Cache 1 UCIE PHY LSM有几种状态&#xff1f; 以及L1和L2这两种低功耗状态有什么区别&#xff1f;2 AXI的特性&#xff1f; 通道之间有依赖关系吗&#xff1f; master和slave的valid和ready关系&#xff1f; 写数…

html|本地实现浏览器m3u8播放器,告别网络视频卡顿

前言 网络上经常是以m3u8文件传输视频流的 &#xff0c;但是有时网络慢往往导致视频播放卡顿。于是我在想能不能先下载然后再播放呢&#xff1f;于是尝试下载然后实现本地播放m3u8视频。 正文 1.找到网络视频流的m3u8连接 一般在浏览器按F12就可以看到有请求视频流的连接。 …

交互开发---测量工具(适用VTK或OpenGL开发的应用程序)

简介&#xff1a; 经常使用RadiAnt DICOM Viewer来查看DICOM数据&#xff0c;该软件中的测量工具比较好用&#xff0c;就想着仿照其交互方式自己实现下。后采用VTK开发应用程序时&#xff0c;经常需要开发各种各样的测量工具&#xff0c;如果沿用VTK的widgets的思路&#xff0c…

uniapp -- 实现页面滚动触底加载数据

效果 首选,是在pages.json配置开启下拉刷新 {"path": "pages/my/document/officialDocument","style": {"navigationStyle":</

导游现场面试需要注意的问题

今天给大家带来一些导游现场面试需要注意的问题&#xff0c;大部分的城市导游考试已经考完了&#xff0c;但是还有一些城市的十二月份才考&#xff0c;有需要的朋友们赶紧来看&#xff0c;有备无患。 01、做好充足准备 认真准备做好每个景点的讲解介绍&#xff0c;不要抱有侥幸…

【ubuntu】将Chroma配置为LINUX服务

Chroma是一个轻量级向量数据库。既然是数据库&#xff0c;那么我希望它是能够长时间运行。最直接的方式是配置为service服务。 可惜官方没有去提供配置为服务的办法&#xff0c;而鄙人对docker又不是特别感冒。所以自己研究了下chroma配置为服务的方式。 系统&#xff1a;ubu…

PageHelper自定义Count查询及其优化

PageHelper自定义Count查询及其优化 文章目录 PageHelper自定义Count查询及其优化一&#xff1a;背景1.1、解决方法 二&#xff1a;利用反射判断请求参数是否有模糊查询2.1、分页不执行count2.2、思路2.3、代码示例 三&#xff1a;自定义COUNT查询SQL(只适用于单表)3.1、局限性…

TPAMI 2023:When Object Detection Meets Knowledge Distillation: A Survey

摘要 目标检测&#xff08;Object Detection&#xff0c;OD&#xff09;是计算机视觉中的一项关键任务&#xff0c;多年来涌现出了众多算法和模型。尽管当前 OD 模型的性能有所提升&#xff0c;但它们也变得更加复杂&#xff0c;由于参数规模庞大&#xff0c;在工业应用中并不…

ZED相机应用

下载SDK wget https://stereolabs.sfo2.cdn.digitaloceanspaces.com/zedsdk/3.6/ZED_SDK_Ubuntu18_cuda11.5_v3.6.5.run 安装 ./ZED_SDK_Ubuntu18_cuda11.5_v3.6.5.run skip_python 测试 cd /usr/local/zed/tools ls ZED_Calibration ZED_Depth_Viewer ZED_Diagnostic ZED_E…

农业园区气象站

农业园区气象站是一种专为农业生产和科研设计的气象监测设备&#xff0c;它集成了多种传感器和技术&#xff0c;用于实时、准确地监测和记录农业园区内的气象数据。以下是农业园区气象站的主要功能和用处&#xff1a; 一、主要功能 实时监测&#xff1a;农业园区气象站能够实时…

编译问题 fatal error: rpc/rpc.h: No such file or directory

在编译一些第三方软件的时候&#xff0c;会经常遇到一些文件识别不到的问题&#xff0c;这里整理下做个归总。 目前可能的原因有&#xff08;排序分先后&#xff09;&#xff1a; 文件不存在&#xff1b;文件存在但路径识别不了&#xff1b;…… 这次以常见的编译lmbench测试…

设计模式的艺术读书笔记

设计模式的艺术 面向对象设计原则概述单一职责原则开闭原则里氏代换原则依赖倒转原则接口隔离原则合成复用原则迪米特法则 创建的艺术创建型模式单例模式饿汉式单例与懒汉式单例的讨论通过静态内部类实现的更好办法 简单工厂模式工厂方法模式重载的工厂方法工厂方法的隐藏工厂方…

element-plus的el-tree的双向绑定

el-tree改造了下 可选可取消 有默认值 不包含父级id&#xff08;也可打开注释 包含父级id&#xff09; 默认展开 点击节点也可触发选择 节点内容自定义 <template><div class"absolute"><el-scrollbar class"pall"><div class"…

【iOS】OC高级编程 iOS多线程与内存管理阅读笔记——自动引用计数(三)

目录 ARC规则 概要 所有权修饰符 __strong修饰符 __weak修饰符 __unsafe_unretained修饰符 __autoreleasing修饰符 ARC规则 概要 “引用计数式内存管理”的本质部分在ARC中并没有改变&#xff0c;ARC只是自动地帮助我们处理“引用计数”的相关部分。 在编译单位上可以…