Mysql 备份恢复 mysqldump与xtrabackup备份

1.1 备份的原因

备份是数据安全的最后一道防线,对于任何数据丢失的场景,备份虽然不一定能恢复百分之百的数据 (取决于备份周期),但至少能将损失降到最低。衡量备份恢复有两个重要的指标:恢复点目标(RPO) 和恢复时间目标(RTO),前者重点关注能恢复到什么程度,而后者则重点关注恢复需要多长时间。

1.1.1 备份的目的

做灾难恢复:对损坏的数据进行恢复和还原

需求改变:因需求改变而需要把数据还原到改变以前

测试:测试新功能是否可用

1.1.2 备份中需要考虑的问题

可以容忍丢失多长时间的数据;

恢复数据要在多长时间内完;

恢复的时候是否需要持续提供服务;

恢复的对象,是整个库,多个表,还是单个库,单个表。

1.1.3 备份的类型

热备份:

这些动态备份在读取或修改数据的过程中进行,很少中断或者不中断传输或处理数据的功能。使用热备份时,系统仍可供读取和修改数据的操作访问。

冷备份:

这些备份在用户不能访问数据时进行,因此无法读取或修改数据。这些脱机备份会阻止执行任何使用数据的活动。这些类型的备份不会干扰正常运行的系统的性能。但是,对于某些应用程序,会无法接受必须在一段较长的时间里锁定或完全阻止用户访问数据。

温备份:

这些备份在读取数据时进行,但在多数情况下,在进行备份时不能修改数据本身。这种中途备份类型的优点是不必完全锁定最终用户。但是,其不足之处在于无法在进行备份时修改数据集,这可能使这种类型的备份不适用于某些应用程序。在备份过程中无法修改数据可能产生性能问题。

1.2 备份的方式

1.2.1 冷备份

最简单的备份方式就是,关闭 MySQL 服务器,然后将 data 目录下面的所有文件进行拷贝保存,需要恢复时,则将目录拷贝到需要恢复的机器即可。这种方式确实方便,但是在生产环境中基本没什么作用。因为所有的机器都是要提供服务的,即使是 Slave 有时候也需要提供只读服务,所以关闭 MySQL 停服备份是不现实的。与冷备份相对应的一个概念是热备份,所谓热备份是在不影响 MySQL 对外服务的情况下,进行备份。

     冷备份及停止业务进行备份。

1.2.2 快照备份

首先要介绍的热备份是快照备份,快照备份是指通过文件系统支持的快照功能对数据库进行备份。备份的原理是将所有的数据库文件放在同一分区中,然后对该分区执行快照工作,对于 Linux 而言,需要通过 LVM(Logical Volumn Manager)来实现。LVM 使用写时复制 (copy-on-write) 技术来创建快照,例如,对整个卷的某个瞬间的逻辑副本,类似于数据库中的 innodb 存储引擎的 MVCC,只不过 LVM 的快照在文件系统层面,而 MVCC 在数据库层面,而且仅支持 innodb 存储引擎。

LVM 有一个快照预留区域,如果原始卷数据有变化时,LVM 保证在任何变更写入之前,会复制受影响块到快照预留区域。简单来说,快照区域内保留了快照点开始时的一致的所有 old 数据。对于更新很少的数据库,快照也会非常小。

对于 MySQL 而言,为了使用快照备份,需要将数据文件,日志文件都放在一个逻辑卷中,然后对该卷快照备份即可。由于快照备份,只能本地,因此,如果本地的磁盘损坏,则快照也就损坏了。快照备份更偏向于对误操作防范,可以将数据库迅速恢复到快照产生的时间点,然后结合二进制日志可以恢复到指定的时间点。基本原理如下图:

1.2.3 逻辑备份(文本表示:SQL 语句)

冷备份和快照备份由于其弊端在生产环境中很少使用,使用更多是 MySQL 自带的逻辑备份和物理备份工具,这节主要讲逻辑备份,MySQL 官方提供了 Mysqldump 逻辑备份工具,虽然已经足够好,但存在单线程备份慢的问题。在社区提供了更优秀的逻辑备份工具 mydumper,它的优势主要体现在多线程备份,备份速度更快。

1.2.4 其他常用的备份方式

物理备份(数据文件的二进制副本)

全量备份概念

全量数据就是数据库中所有的数据(或某一个库的全部数据);

全量备份就是把数据库中所有的数据进行备份。

mysqldump 会取得一个时刻的一致性数据.

增量备份(刷新二进制日志)

增量数据就是指上一次全量备份数据之后到下一次全备之前数据库所更新的数据

对于 mysqldump,binlog 就是增量数据.

1.2.5 备份工具的介绍

1、mysqldump: mysql 原生自带很好用的逻辑备份工具

2、mysqlbinlog: 实现 binlog 备份的原生态命令

3、xtrabackup: precona 公司开发的性能很高的物理备份工具

1.3 mysqldump 备份介绍

备份的基本流程如下

1.调用FTWRL(flush tables with read lock),全局禁止读写
2.开启快照读,获取此时的快照(仅对innodb表起作用)
3.备份非innodb表数据(*.frm,*.myi,*.myd等)
4.非innodb表备份完毕后,释放FTWRL锁
5.逐一备份innodb表数据
6.备份完成。

整个过程,可以参考一张图,但他的这张图只考虑 innodb 表的备份情况,实际上在 unlock tables 执行完毕之前,非 innodb 表已经备份完毕,后面的 t1,t2 和 t3 实质都是 innodb 表,而且 5.6 的 mysqldump 利用保存点机制,每备份完一个表就将一个表上的 MDL 锁释放,避免对一张表锁更长的时间。

1.3.1 mysqldump 备份流程

1.3.2 常用的备份参数

mysqldump -A -R --triggers --master-data=2 |gzip   >/opt/all_$(date +%F).sql.gz

1.3.3 -A 参数

备份全库,备份语句

mysqldump -uroot -p123 -A  > /backup/full.sql

1.3.4 -B 参数

备某一个数据库下的所有表

增加建库(create)及 “use 库” 的语句,可以直接接多个库名,同时备份多个库 * -B 库 1 库 2

mysqldump -uroot -p123 -B world  > /backup/worldb.sql

备份语句:

create database if not 存在use db1drop tablecreate tableinsert into

不加 - B 备份数据库时,只是备份数据库下的所有表,不会创建数据库

     只能备份单独的数据库(一般用于备份单表时使用)
mysqldump -uroot -p123 world  > /backup/world.sql
     备份单表
mysqldump -uroot -p123 world  city  > /backup/world_city.sql
     对于单表备份的粒度,再恢复数据库数据时速度最快。备份多个表
mysqldump 库1 表1 表2 表3 >库1.sql
mysqldump 库2 表1 表2 表3 >库2.sql

分库备份: for 循环

mysqldump -uroot -p'mysql123' -B mysql ...
mysqldump -uroot -p'mysql123' -B mysql_utf8 ...
mysqldump -uroot -p'mysql123' -B mysql ...
......

分库备份

for name in `mysql -e "show databases;"|sed 1d`
domysqldump -uroot -p'mysql123' -B $name
done

1.3.5 --master-data={1|2} 参数

告诉你备份后时刻的 binlog 位置

2 为注释 1 为非注释,要执行的 (主从复制)

[root@db02 logs]# sed -n '22p' /opt/t.sql
CHANGE MASTER TO MASTER_LOG_FILE='clsn-bin.000005', MASTER_LOG_POS=344;
[root@db02 logs]# mysqldump -B --master-data=2 clsn >/opt/t.sql

1.3.6 --single-transaction 参数

对 innodb 引擎进行热备

     只支持 innodb 引擎使用该参数会单独开启一个事务进行备份,利用事务的快照技术实现。

基于事务引擎: 不用锁表就可以获得一致性的备份.

体现了 ACID 四大特性中的隔离性,生产中 99% 使用 innodb 事务引擎.

     虽然支持热备,并不意味着你可以再任意时间点进行备份,特别是业务繁忙期,不要做备份策略,一般夜里进行备份。

innodb 引擎的备份命令如下:

mysqldump -A -B -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz

1.3.7 --flush-logs 参数 /-F

刷新 binlog 日志

每天晚上 0 点备份数据库

mysqldump -A -B -F >/opt/$(date +%F).sql
[root@db02 ~]# ll /application/mysql/logs/
-rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000001
-rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000002
-rw-rw---- 1 mysql mysql 210 Jun 21 12:07 clsn-bin.index
     提示: 每个库都会刷新一次.        

1.3.8 压缩备份

压缩备份命令:

mysqldump -B --master-data=2 clsn|gzip >/opt/t.sql.gz

解压:

zcat t.sql.gz >t1.sql
gzip -d t.sql.gz #删压缩包
gunzip alL_2017-12-22.sql.gz

一个完整的备份语句

     innodb 引擎的备份命令如下:
mysqldump -A -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz
     适合多引擎混合(例如:myisam 与 innodb 混合)的备份命令如下:
mysqldump -A -R --triggers --master-data=2 |gzip   >/opt/alL_$(date +%F).sql.gz

1.3.9 使用 Mysqldump 备份进行恢复实践

备份 innodb 引擎数据库 clsn 并压缩:

mysqldump -B -R --triggers --master-data=2 clsn|gzip >/opt/all_$(date +%F).sql.gz

人为删除 clsn 数据库:

[root@db02 opt]# mysql -e “drop database clsn;”
[root@db02 opt]# mysql -e “show databases;”

恢复数据库:

使用gzip解压 gzip -d xxx.gz
shell> mysql </opt/all_2017-1222.sql
或
mysql> set sql_log_bin=0;
Query OK, 0 rows affected (0.00 sec)
mysql> source /backup/alL_2017-12-22.sql

验证数据:

[root@db02 opt]#  mysql -e “use clsn;select * from test;”

1.4 【模拟】增量恢复企业案例

1.4.1 前提条件:

1. 具备全量备份(mysqldump)。

2. 除全量备份以外,还有全量备份之后产生的的所有 binlog 增量日志。

1.4.2 环境准备

(1) 准备环境:

drop database clsn;
CREATE DATABASE clsn;
USE `clsn`;
CREATE TABLE `test` (`id` int(4) NOT NULL AUTO_INCREMENT,`name` char(20) NOT NULL,PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8;
INSERT INTO `test` VALUES (1,'clsn'),(2,'znix'),(3,'inca'),(4,'zuma'),(5,'kaka');

查看创建好的数据

mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
+----+------+
5 rows in set (0.00 sec)

(2) 模拟环境:

mkdir /data/backup -p
date -s "2017/12/22"

全备份:

mysqldump -B --master-data=2 --single-transaction clsn|gzip>/data/backup/clsn_$(date +%F).sql.gz

模拟增量:

mysql -e "use clsn;insert into test values(6,'haha');"
mysql -e "use clsn;insert into test values(7,'hehe');"
mysql -e "select * from clsn.test;"

(3) 模拟误删数据:

date -s "2017/12/22 11:40"
mysql  -e "drop database clsn;show databases;"

出现问题 10 分钟后, 发现问题, 删除了数据库了.

1.4.3 恢复数据准备

(1) 采用 iptables 防火墙屏蔽所有应用程序的写入。

[root@clsn ~]# iptables -I INPUT -p tcp --dport 3306 ! -s 172.16.1.51 -j DROP 
#<==非172.16.1.51禁止访问数据库3306端口。
     或采用 mysql 配置参数,但是需要重启数据库
--skip-networking
     复制二进制日志文件
cp -a /application/mysql/logs/clsn-bin.* /data/backup/
     截取日志
zcat clsn_2017-12-22.sql.gz >clsn_2017-12-22.sql
sed -n '22p' clsn_2017-12-22.sql
mysqlbinlog -d clsn --start-position=339 clsn-bin.000008 -r bin.sql

需要恢复的日志:

1.clsn_2017-12-22.sql
2.bin.sql
grep -i drop bin.sql 
sed -i '/^drop.*/d' bin.sql

1.4.4 进行数据恢复

恢复数据

[root@db02 backup]# mysql <clsn_2017-12-22.sql
[root@db02 backup]# mysql -e "show databases;"
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| clsn               |
| znix               |
| performance_schema |
+--------------------+

查看数据库

mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
+----+------+
5 rows in set (0.00 sec)

恢复增量数据:

[root@db02 backup]# mysql clsn <bin.sql
mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
|  6 | haha |
|  7 | hehe |
+----+------+
7 rows in set (0.00 sec)

恢复完毕。

调整 iptables 允许用户访问.

1.4.5 多个 binlog 问题

mysqlbinlog -d clsn --start-position=339 clsn-bin.000009 clsn-bin.0000010 -r bin1.sqlmysql clsn <bin1.sql

1.5 mysql 数据库实际生产惨案

1.5.1 发生背景

1、mysql 服务器会在每天夜里 0 点全量备份

2、某个开发人员某个阳光明媚的上午,喝着茶,优雅的误删除了 clsn_oss(核心)数据库。

3、导致公司业务异常停止,无法正常提供服务。

1.5.2 怎么解决的

1、当前系统进行评估。

什么损坏了,有没有备份,

恢复数据时间(误操作的数据有关,备份、恢复策略),

恢复业务时间

     2、恢复方案(1)恢复 0 点的全备,到测试库(2)恢复 0 点开始到故障时间点的 binlog,到测试库(3)将误操作的数据导出,恢复到生产库。(4)检验数据是不是完整的(开发测试环境测试恢复成功数据库)(5)检验完成之后,重新开启生产业务

1.5.3 项目总结

     1、经过我的恢复处理,30 分钟整体业务重新提供服务(速度慢。。。)2、在以后的工作中制定严格的开发规范,开发,开发。3、将来制定更好的架构方案。

1.6 备份工具的选择

数据量范围:30G --> TB 级别

1.6.1 数据量大,变换量小

    (1)全备分花费的成本较高,mysqldump+binlog 实现全备 + 增量备份,缺点是恢复成本比备份时间成本还高(2)xtrabackup:可以较长时间做一次全备,其余时间都是增量,全量备份空间成本很高如果数据量在 30G-->TB 级别的话,更推荐使用 xtrabackup 工具。

1.6.2 数据量小,变化量大

只需要考虑时间成本。

只用全备备份即可,两种工具选择都可以。恢复成本上 xtrabackup 小一些

1.6.3 数据量、变化量都大

时间成本和空间成本都要考虑了。

数据量达到 PB 或更高时(facebook),mysqldump 可能成为首选,占用空间小,但技术成本高。需要对 mysqldump 进行二次开发(大数据量公司首选)。

1.7 xtrabackup 备份软件

percona 公司官网 https://www.percona.com/

1.7.1 Xtrabackup 介绍

Xtrabackup 是由 percona 开源的免费数据库热备份软件,它能对 InnoDB 数据库和 XtraDB 存储引擎的数据库非阻塞地备份(对于 MyISAM 的备份同样需要加表锁);mysqldump 备份方式是采用的逻辑备份,其最大的缺陷是备份和恢复速度较慢,如果数据库大于 50G,mysqldump 备份就不太适合。

Xtrabackup 安装完成后有 4 个可执行文件,其中 2 个比较重要的备份工具是 innobackupex**、xtrabackup**

1)xtrabackup 是专门用来备份InnoDB表的,和mysql server没有交互;
2)innobackupex 是一个封装xtrabackup的Perl脚本,支持同时备份innodb和myisam,但在对myisam备份时需要加一个全局的读锁。
3)xbcrypt 加密解密备份工具
4)xbstream 流传打包传输工具,类似tar
5)物理备份工具,在同级数据量基础上,都要比逻辑备份性能好的多,特别是在数据量较大的时候,体现的更加明显。

1.7.1 Xtrabackup 优点

1)备份速度快,物理备份可靠

2)备份过程不会打断正在执行的事务(无需锁表)

3)能够基于压缩等功能节约磁盘空间和流量

4)自动备份校验

5)还原速度快

6)可以流传将备份传输到另外一台机器上

7)在不增加服务器负载的情况备份数据

8)物理备份工具,在同级数据量基础上,都要比逻辑备份性能要好的多。几十 G 到不超过 TB 级别的条件下。但在同数据量级别,物理备份恢复数据上有一定优势。

1.7.2 备份原理

拷贝数据文件、拷贝数据页

对于 innodb 表可以实现热备。

(1)在数据库还有修改操作的时刻,直接将数据文件备走,此时,备份走的数据对于当前mysql来讲是不一致的。(2)将备份过程中的redo和undo一并备走。(3)为了恢复的时候,只要保证备份出来的数据页lsn能和redo lsn匹配,将来恢复的就是一致的数据。redo应用和undo应用。

对于 myisam 表实现自动锁表拷贝文件。

备份开始时首先会开启一个后台检测进程,实时检测 mysql redo 的变化,一旦发现有新的日志写入,立刻将日志记入后台日志文件 xtrabackup_log 中,之后复制 innodb 的数据文件一系统表空间文件 ibdatax,复制结束后,将执行 flush tables with readlock, 然后复制. frm MYI MYD 等文件,最后执行 unlock tables, 最终停止 xtrabackup_log

1.7.3 xtrabackup 的安装

安装依赖关系

wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL
     下载软件包,并安装软件
wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm
yum -y install percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm

1.8 xtrabackup 实践操作

1.8.1 全量备份与恢复

这一阶段会启动 xtrabackup 内嵌的 innodb 实例,回放 xtrabackup 日志 xtrabackup_log,将提交的事务信息变更应用到 innodb 数据 / 表空间,同时回滚未提交的事务 (这一过程类似 innodb 的实例恢复)。恢复过程如下图:

备份

创建备份目录

mkdir  /backup -p
     进行第一次全量备份
innobackupex --defaults-file=/etc/my.cnf --user=root --password=123 --socket=/application/mysql/tmp/mysql.sock --no-timestamp /backup/xfull

恢复前准备

恢复数据前的准备 (合并 xtabackup_log_file 和备份的物理文件)

innobackupex --apply-log --use-memory=32M /backup/xfull/
     查看合并后的 checkpoints 其中的类型变为 full-prepared 即为可恢复。
[root@db02 full]# cat xtrabackup_checkpoints 
backup_type = full-prepared
from_lsn = 0
to_lsn = 4114824
last_lsn = 4114824
compact = 0
recover_binlog_info = 0

破坏数据库数据文件

[root@db02 full]# cd /application/mysql/data/
[root@db02 data]# ls
auto.cnf  db02.pid  ibdata2      mysql             mysql-bin.index     world
clsn      haha      ib_logfile0  mysql-bin.000001  oldboy
db02.err  ibdata1   ib_logfile1  mysql-bin.000002  performance_schema
[root@db02 data]# \rm -rf ./* 
[root@db02 data]# ls
[root@db02 data]# killall mysql

恢复方法

方法一: 直接将备份文件复制回来

cp -a /backup/full/ /application/mysql/data
chown -R mysql.mysql /application/mysql/data

方法二: 使用 innobackupex 命令进行恢复 **(**推荐)

[root@db02 mysql]# innobackupex --copy-back /backup/xfull
[root@db02 mysql]# chown -R mysql.mysql /application/mysql/
             说明:无论使用那种恢复方法都要恢复后需改属组属主,保持与程序一致。
[root@db02 data]# cd /application/mysql/data/
[root@db02 data]# ls
clsn     ibdata2      ibtmp1  performance_schema            xtrabackup_info
haha     ib_logfile0  mysql   world
ibdata1  ib_logfile1  oldboy  xtrabackup_binlog_pos_innodb
     启动是数据库
[root@db02 data]#  /etc/init.d/mysqld start

1.8.2 增量备份与恢复

innobackupex 增量备份过程中的 “增量” 处理,其实主要是相对 innodb 而言,对 myisam 和其他存储引擎而言,它仍然是全拷贝 (全备份)

“增量” 备份的过程主要是通过拷贝 innodb 中有变更的 “页”(这些变更的数据页指的是 “页” 的 LSN 大于 xtrabackup_checkpoints 中给定的 LSN)。增量备份是基于全备的,第一次增备的数据必须要基于上一次的全备,之后的每次增备都是基于上一次的增备,最终达到一致性的增备。增量备份的过程如下,和全备的过程很类似,区别仅在第 2 步。

增量备份从哪增量?

基于上一次的备份进行增量。

redo 默认情况下是一组两个文件,并且有固定大小。其使用的文件是一种轮询使用方式,他不是永久的,文件随时可能被覆盖。

注意:千万不要在业务繁忙时做备份。

备份什么内容

1、可以使用 binlog 作为增量

2、自带的增量备份,基于上次备份后的变化的数据页,还要备份在备份过程中的 undo、redo 变化

怎么备份

     _1__、先进行第一次全备_
innobackupex  --user=root --password=123 --no-timestamp /bakcup/xfull
     对原库做了修改,修改了小红那行然后 commit。

2_、再进行增量备份_

innobackupex --user=root --password=123  --incremental --no-timestamp --incremental-basedir=/backup/xfull/  /backup/xinc1

怎么恢复

1、先应用全备日志(–apply-log,暂时不需要做回滚操作 --redo-only)

innobackupex --apply-log --redo-only /backup/xfull/     

2、合并增量到全备中(一致性的合并)

innobackupex --apply-log --incremental-dir=/backup/xinc1 /backup/xfull/
innobackupex --apply-log /backup/xfull

3、合并完成进行恢复

方法一: 直接将备份文件复制回来

cp -a /backup/full/ /application/mysql/data
chown -R mysql.mysql /application/mysql/data

方法二: 使用 innobackupex 命令进行恢复 **(**推荐)

[root@db02 mysql]# innobackupex --copy-back /backup/xfull
[root@db02 mysql]# chown -R mysql.mysql /application/mysql/
            说明:无论使用那种恢复方法都要恢复后需改属组属主,保持与程序一致。

1.8.3 数据库备份策略

每周的周日进行一次全备;周一到周六每天做上一天增量,每周轮询一次。

xfull       --apply-log --redo-only   保证last-lsn=周一增量开始lsn
xinc1        合并周一的增量到全备,并apply-log --redo-only  保证last-lsn=周二增量开始lsn
xinc2        合并周二的增量到全备,并apply-log --redo-only  保证last-lsn=周三增量开始lsn
xinc3       合并周三的增量到全备,并apply-log --redo-only  保证last-lsn=周四增量开始lsn
xinc4       合并周四的增量到全备,并apply-log --redo-only  保证last-lsn=周五增量开始lsn
xinc5       合并周五的增量到全备,并apply-log --redo-only  保证last-lsn=周六增量开始lsn
xinc6        合并周六的增量到全备,--apply-log  准备恢复即可

1.8.4 真实生产实战案例分析

**背景:**某物流公司网站核心系统,数据量是 220G,每日更新量 100M-200M

备份方案: xtrabackup 全备 + 增量

备份策略(crontab**)**:

1、周六 晚上 0 点全备

0 0 * * 6 zjs_full.sh — 这行可以没有

2、周一至周五、周日 是增量,基于上一天增量

0 1 * * 0-5 zjs_inc.sh— 这行可以没有

故障场景:

周三的时候,下午两点,开发人员误删除了一张表 zjs_base,大约 10G。

项目职责:

1) 指定恢复方案、利用现有备份;

              2)  恢复误删除数据;3)  制定运维、开发流程规范。

恢复流程:

	a)    准备上周六全备。b)    合并周日、周一 、周二增量。c)    在测试库恢复以上数据,数据的目前状态应该周三凌晨1:00d)    需要恢复的数据状态是,下午2点钟左右e)    从1点开始的binlog恢复到删除之前转台f)    导出删除的表zjs_base,恢复到生产库,验证数据可用性、完整性。g)    启动应用连接数据库。

总结:经过 30 分钟将误删表恢复了。服务总共停止 40 分钟。

1.8.5 故障恢复小结

恢复思路:

              1、首先确保断开所有应用,保证数据的安全。2、检查用于恢复的备份存在吗。3、设计快速、安全恢复简单方案,制定突发问题解决办法。

具体恢复流程:

1、准备上周六全备,并--apply-log --redo-only2、合并增量,周日、周一 、周二  --apply-log --redo-only 周三 --apply-log3、在测试库恢复以上数据,数据的目前状态应该周三凌晨1:004、需要恢复的数据状态是,下午2点钟左右,删除zjs_base之前的数据状态从1点开始的binlog恢复到删除之前的那个events的position。5、导出删除的表zjs_base,恢复到生产库,验证数据可用性、完整性。6、启动应用连接数据库。
     **确定恢复所需时间**
恢复窗口要多长?----> 预计3小时和你恢复+验证+意外情况有关。
业务停多长时间?----> 6小时?或者更多?更少?

1.8.6 【模拟】生产事故恢复

数据创建阶段

1、创建备份需要的目录

mkdir full  inc1 inc2

2、周日全备

innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/

3、模拟数据变化

use oldboy
create table test(id int,name char(20),age int);
insert into test values(8,'outman',99);
insert into test values(9,'outgirl',100);
commit;

4、周一增量备份

innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/full/ /backup/xbackup/inc1

5、模拟数据变化

use oldboy
insert into test values(8,'outman1',119);
insert into test values(9,'outgirl1',120);
commit;

6、周二的增量备份

innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/inc1 /backup/xbackup/inc2

7. 再插入新的行操作

use oldboy
insert into test values(10,'outman2',19);
insert into test values(11,'outgirl2',10);
commit;

模拟误操作事故

模拟场景,周二下午 2 点误删除 test 表

use oldboy;drop table test;

准备恢复数据

1. 准备 xtrabackup 备份,合并备份

innobackupex --apply-log --redo-only /backup/xbackup/full
innobackupex --apply-log --redo-only --incremental-dir=/backup/xbackup/inc1 /backup/xbackup/full
innobackupex --apply-log  --incremental-dir=/backup/xbackup/inc2 /backup/xbackup/full
innobackupex --apply-log /backup/xbackup/full

2.确认 binlog 起点,准备截取 binlog。

cd /backup/xbackup/inc2/cat xtrabackup_binlog_info mysql-bin.000001    1121

3. 截取到 drop 操作之前的 binlog

mysqlbinlog  --start-position=1121 /tmp/mysql-bin.000003 找到drop之前的event和postion号做日志截取,假如 1437mysqlbinlog  --start-position=1121 --stop-position=1437    /tmp/mysql-bin.000003 >/tmp/incbinlog.sql

4.关闭数据库、备份二进制日志

/etc/init.d/mysqld stop
cd /application/mysql/data/
cp mysql-bin.000001 /tmp
  1. 删除 MySQL 所有数据
cd /application/mysql/data/
rm -rf *

恢复数据

1.将全量备份的数据恢复到数据目录下

innobackupex --copy-back /backup/xbackup/full/
chown -R mysql.mysql /application/mysql/data/
/etc/init.d/mysqld start

2. 恢复 binlog 记录

set sql_log_bin=0
source /tmp/incbinlog.sql

1.8.7 xtarbackup 导出

(1)“导出” 表 导出表是在备份的 prepare 阶段进行的,因此,一旦完全备份完成,就可以在 prepare 过程中通过 --export 选项将某表导出了:

innobackupex --apply-log --export /path/to/backup

此命令会为每个 innodb 表的表空间创建一个以. exp 结尾的文件,这些以. exp 结尾的文件则可以用于导入至其它服务器。

(2)“导入” 表 要在 mysql 服务器上导入来自于其它服务器的某 innodb 表,需要先在当前服务器上创建一个跟原表表结构一致的表,而后才能实现将表导入:

mysql> CREATE TABLE mytable (...)  ENGINE=InnoDB;

然后将此表的表空间删除:

mysql> ALTER TABLE mydatabase.mytable  DISCARD TABLESPACE;

接下来,将来自于 “导出” 表的服务器的 mytable 表的 mytable.ibd 和 mytable.exp 文件复制到当前服务器的数据目录,然后使用如下命令将其“导入”:(记得改权限)

mysql> ALTER TABLE mydatabase.mytable  IMPORT TABLESPACE;

示例:

innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/

进入到全备的数据库目录下

[root@db02 haha]# ls
db.opt  PENALTIES.frm  PENALTIES.ibd  PLAYERS.frm  PLAYERS.ibd
[root@db02 haha]# pwd
/backup/xbackup/full/haha
     导出表
[root@db02 haha]# innobackupex --apply-log --export /backup/xbackup/full/  
[root@db02 haha]# ls
db.opt         PENALTIES.exp  PENALTIES.ibd  PLAYERS.exp  PLAYERS.ibd
PENALTIES.cfg  PENALTIES.frm  PLAYERS.cfg    PLAYERS.frm
     创建出同结构表
CREATE TABLE `PLAYERS` (`PLAYERNO` int(11) NOT NULL,`NAME` char(15) NOT NULL,`INITIALS` char(3) NOT NULL,`BIRTH_DATE` date DEFAULT NULL,`SEX` char(1) NOT NULL,`JOINED` smallint(6) NOT NULL,`STREET` varchar(30) NOT NULL,`HOUSENO` char(4) DEFAULT NULL,`POSTCODE` char(6) DEFAULT NULL,`TOWN` varchar(30) NOT NULL,`PHONENO` char(13) DEFAULT NULL,`LEAGUENO` char(4) DEFAULT NULL,PRIMARY KEY (`PLAYERNO`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8
     复制恢复数据到库下
[root@db02 haha]# cp  PLAYERS.ibd  PLAYERS.exp  /application/mysql/data/backup/
cp: overwrite `/application/mysql/data/backup/PLAYERS.ibd'? y
     恢复数据
mysql> ALTER TABLE backup.PLAYERS  DISCARD TABLESPACE;
Query OK, 0 rows affected (0.00 sec)

1.8.8 innobackupex 参数说明

参数

参数说明

--compress

该选项表示压缩 innodb 数据文件的备份。

--compress-threads   

该选项表示并行压缩 worker 线程的数量。

--compress-chunk-size

该选项表示每个压缩线程 worker buffer 的大小,单位是字节,默认是 64K。

--encrypt            

该选项表示通过 ENCRYPTION_ALGORITHM 的算法加密 innodb 数据文件的备份,目前支持的算法有 ASE128,AES192,AES256。

--encrypt-threads    

该选项表示并行加密的 worker 线程数量。

--encrypt-chunk-size 

该选项表示每个加密线程 worker buffer 的大小,单位是字节,默认是 64K。

--encrypt-key        

该选项使用合适长度加密 key,因为会记录到命令行,所以不推荐使用。

--encryption-key-file

该选项表示文件必须是一个简单二进制或者文本文件,加密 key 可通过以下命令行命令生成:openssl rand -base64 24。

--include            

该选项表示使用正则表达式匹配表的名字 [db.tb],要求为其指定匹配要备份的表的完整名称,即 databasename.tablename。

--user               

该选项表示备份账号。

--password           

该选项表示备份的密码。

--port               

该选项表示备份数据库的端口。

--host               

该选项表示备份数据库的地址。

--databases

该选项接受的参数为数据名,如果要指定多个数据库,彼此间需要以空格隔开;如:"xtra_test dba_test",同时,在指定某数据库时,也可以只指定其中的某张表。如:"mydatabase.mytable"。该选项对 innodb 引擎表无效,还是会备份所有 innodb 表。此外,此选项也可以接受一个文件为参数,文件中每一行为一个要备份的对象。

--tables-file     

该选项表示指定含有表列表的文件,格式为 database.table,该选项直接传给 --tables-file。

--socket          

该选项表示 mysql.sock 所在位置,以便备份进程登录 mysql。

--no-timestamp    

该选项可以表示不要创建一个时间戳目录来存储备份,指定到自己想要的备份文件夹。

--ibbackup        

该选项指定了使用哪个 xtrabackup 二进制程序。IBBACKUP-BINARY 是运行 percona xtrabackup 的命令。这个选项适用于 xtrbackup 二进制不在你是搜索和工作目录,如果指定了该选项,innoabackupex 自动决定用的二进制程序。

--slave-info      

该选项表示对 slave 进行备份的时候使用,打印出 master 的名字和 binlog pos,同样将这些信息以 change master 的命令写入 xtrabackup_slave_info 文件。可以通过基于这份备份启动一个从库。

--safe-slave-backup

该选项表示为保证一致性复制状态,这个选项停止 SQL 线程并且等到 show status 中的 slave_open_temp_tables 为 0 的时候开始备份,如果没有打开临时表,bakcup 会立刻开始,否则 SQL 线程启动或者关闭知道没有打开的临时表。如果 slave_open_temp_tables 在 --safe-slave-backup-timeount (默认 300 秒)秒之后不为 0,从库 sql 线程会在备份完成的时候重启。

--kill-long-queries-timeout

该选项表示从开始执行 FLUSH TABLES WITH READ LOCK 到 kill 掉阻塞它的这些查询之间等待的秒数。默认值为 0,不会 kill 任何查询,使用这个选项 xtrabackup 需要有 Process 和 super 权限。

--kill-long-query-type    

该选项表示 kill 的类型,默认是 all,可选 select。

--ftwrl-wait-threshold    

该选项表示检测到长查询,单位是秒,表示长查询的阈值。

--ftwrl-wait-query-type   

该选项表示获得全局锁之前允许那种查询完成,默认是 ALL,可选 update。

--galera-info             

该选项表示生成了包含创建备份时候本地节点状态的文件 xtrabackup_galera_info 文件,该选项只适用于备份 PXC。

--stream                  

该选项表示流式备份的格式,backup 完成之后以指定格式到 STDOUT,目前只支持 tar 和 xbstream。

--defaults-file           

该选项指定了从哪个文件读取 MySQL 配置,必须放在命令行第一个选项的位置。

--defaults-extra-file     

该选项指定了在标准 defaults-file 之前从哪个额外的文件读取 MySQL 配置,必须在命令行的第一个选项的位置。一般用于存备份用户的用户名和密码的配置文件。

----defaults-group         

该选项表示从配置文件读取的组,innobakcupex 多个实例部署时使用。

--no-lock

该选项表示关闭 FTWRL 的表锁,只有在所有表都是 Innodb 表并且不关心 backup 的 binlog pos 点,如果有任何 DDL 语句正在执行或者非 InnoDB 正在更新时(包括 mysql 库下的表),都不应该使用这个选项,后果是导致备份数据不一致,如果考虑备份因为获得锁失败,可以考虑 --safe-slave-backup 立刻停止复制线程。

--tmpdir

该选项表示指定 --stream 的时候,指定临时文件存在哪里,在 streaming 和拷贝到远程 server 之前,事务日志首先存在临时文件里。在使用参数 stream=tar 备份的时候,你的 xtrabackup_logfile 可能会临时放在 /tmp 目录下,如果你备份的时候并发写入较大的话 xtrabackup_logfile 可能会很大 (5G+),很可能会撑满你的 /tmp 目录,可以通过参数 --tmpdir 指定目录来解决这个问题。

--history              

该选项表示 percona server 的备份历史记录在 percona_schema.xtrabackup_history 表。

--incremental          

该选项表示创建一个增量备份,需要指定 --incremental-basedir。

--incremental-basedir  

该选项表示接受了一个字符串参数指定含有 full backup 的目录为增量备份的 base 目录,与 --incremental 同时使用。

--incremental-dir      

该选项表示增量备份的目录。

--incremental-force-scan

该选项表示创建一份增量备份时,强制扫描所有增量备份中的数据页。

--incremental-lsn   

该选项表示指定增量备份的 LSN,与 --incremental 选项一起使用。

--incremental-history-name

该选项表示存储在 PERCONA_SCHEMA.xtrabackup_history 基于增量备份的历史记录的名字。Percona Xtrabackup 搜索历史表查找最近(innodb_to_lsn)成功备份并且将 to_lsn 值作为增量备份启动出事 lsn. 与 innobackupex--incremental-history-uuid 互斥。如果没有检测到有效的 lsn,xtrabackup 会返回 error。

--incremental-history-uuid

该选项表示存储在 percona_schema.xtrabackup_history 基于增量备份的特定历史记录的 UUID。

--close-files            

该选项表示关闭不再访问的文件句柄,当 xtrabackup 打开表空间通常并不关闭文件句柄目的是正确的处理 DDL 操作。如果表空间数量巨大,这是一种可以关闭不再访问的文件句柄的方法。使用该选项有风险,会有产生不一致备份的可能。

--compact                

该选项表示创建一份没有辅助索引的紧凑的备份。

--throttle               

该选项表示每秒 IO 操作的次数,只作用于 bakcup 阶段有效。apply-log 和 --copy-back 不生效不要一起用。

1.9 参考文献

https://www.cnblogs.com/cchust/p/5452557.html
http://www.cnblogs.com/gomysql/p/3650645.html  xtrabackup 详解
https://www.percona.com/software/mysql-database/percona-xtrabackup
https://learn.percona.com/hubfs/Manuals/Percona_Xtra_Backup/Percona_XtraBackup_2.4/Percona-XtraBackup-2.4.9.pdf

MySQL mysqldump数据导出详解

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/14937.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

数据库常用命令(1)

DML 1.添加数据&#xff08;insert into&#xff09; insert into 表名 values (值1&#xff0c;值2....); 表示成功运行&#xff1a; 2.修改数据&#xff08;update&#xff09; update 表名 set 字段名1值1&#xff0c;字段名2值2.....【where条件】 3.删除数据&#xff0…

元年科技数据智能研发部负责人张亚东受邀为第十三届中国PMO大会演讲嘉宾

全国PMO专业人士年度盛会 北京元年科技股份有限公司数据智能研发部负责人张亚东先生受邀为PMO评论主办的2024第十三届中国PMO大会演讲嘉宾&#xff0c;演讲议题为“大模型时代&#xff0c;AI创新型工具提升项目管理效率”。大会将于6月29-30日在北京举办&#xff0c;敬请关注&a…

jmeter之HTTP请求和查看结果树

一、HTTP请求作用&#xff1a; 可以发送post或get请求等请求可以向服务器发送参数或消息体数据可以进行文件上传 HTTP请求&#xff1a;是线程组内的取样器最常用的的一个原件 二、查看界面 添加一个HTTP请求&#xff1a;选择线程组–添加–取样器–HTTP请求 默认界面 名称和…

ThreadLocal为什么会导致内存泄漏?

问题引出&#xff1a; ThreadLocal是为了解决什么问题而产生的&#xff1f; ThreadLocal发生内存泄漏的根本原因是什么&#xff1f; 如何避免内存泄漏的发生&#xff1f;定义 为了解决多个线程同时操作程序中的同一个变量而导致的数据不一致性的问题。   假设现在有两个线程A…

如何获取一个城市或者一个区域的玫瑰风向图?

玫瑰风向图是一种直观展示风向和风速的图形工具&#xff0c;它在气象学、城市规划、农业等领域都有广泛的应用。那么&#xff0c;如何获取某个城市或某个区域的玫瑰风向图呢&#xff1f; 首先&#xff0c;我们可以借助互联网资源获取玫瑰风向图。现代网络技术发达&#xff0c;…

前端 防抖和节流

在前端开发中&#xff0c;防抖&#xff08;Debounce&#xff09;和节流&#xff08;Throttle&#xff09;是两种常用的性能优化技术&#xff0c;尤其在处理频繁触发的事件时显得尤为重要。无论是在用户输入、窗口调整大小&#xff0c;还是滚动事件中&#xff0c;这两种技术都可…

3D 生成重建011-LucidDreamer 优化SDS过平滑结果的一种探索

3D 生成重建011-LucidDreamer 优化SDS过平滑结果的一种探索 文章目录 0论文工作1论文方法2 效果 0论文工作 文本到3D生成的最新进展标志着生成模型的一个重要里程碑&#xff0c;为在各种现实场景中创建富有想象力的3D资产打开了新的可能性。虽然最近在文本到3D生成方面的进展…

自建公式,VBA在Excel中解一元一次方程

自建公式,VBA在Excel中解一元一次方程 文章目录 前言一、运行效果图二、操作思路三、代码1.去除方程中未知数,将未知数转为“*0”2.计算方程中常数3.计算方程中未知数的系数一,先将未知数替换成“*1”4.计算方程中未知数的系数二5.计算方程得数前言 小学必考内容:一元一次…

掌握Python基本语法的终极指南【基本语法部分】

一、基本语法部分 1.简单数据类型 1.1字符串类型及操作 字符串访问&#xff1a; 1.索引访问 mystr"Hello world" #索引访问 print(mystr[0]) #H print(mystr[-1]) #d print(mystr[-7]) #o print(mystr[6]) #w 2.切片访问 [头下标&#xff1a;尾下标] &#x…

齐护K210系列教程(三十二)_在线模型训练

在线模型训练 概念理解准备工作1 采集图像1.1 图像要求1.2 使用K210采集图片 2 标注图像3 打包数据集4 上传数据4.1创建项目4.1.1图像分类创建项目4.1.2图像检测创建项目 4.2上传数据4.2.1分类检测上传数据4.2.2图像检测上传数据 5 训练模型6 部署模型以及测试7 测试效果7.1图像…

JDBC总结

目录 JDBC(java database connection) JDBC连接数据库步骤: 1. 在项目中添加jar文件,如图所示 2.加载驱动类 向数据库中插入数据代码示例: 第一种: 第二种: 查询操作 : 第一种: 第二种: JDBC(java database connection) java数据库连接.api(应用程序编程接口) ,可…

一文讲清!传统企业的进销存管理难题该怎么解决?

有没有开源的进销存软件啊&#xff1f; 确实&#xff0c;市面上存在不少开源的进销存软件。但客观地讲&#xff0c;开源软件往往面临着安全隐患&#xff0c;因为代码公开&#xff0c;容易成为黑客攻击的目标。此外&#xff0c;开源软件的功能模块通常较为固定&#xff0c;难以…

初出茅庐的小李博客之MQTT.fx客户端接入EMQX Platform

EMQX Platform 概览 EMQX Platform 是 EMQ 推出的一款面向物联网领域的 MQTT 消息中间件产品。作为全球首个 MQTT 5.0 消息云服务&#xff0c;EMQX Platform 提供了一站式运维代管、独有隔离环境的 MQTT 消息服务。在万物互联的时代&#xff0c;EMQX Platform 可以帮助您快速构…

python数据类型之列表

目录 1.创建列表 2.列表基础操作 常用操作 对列表元素顺序随机打乱 列表下标和切片 字符串分割为列表 列表位移 列表切片替换 3.列表内置方法 4.列表排序 简单排序 使用key参数按指定规则排序 二维列表排序 自定义排序规则函数 5.列表排序算法 选择排序 柱状图…

C# 利用Xejen框架源码,我们来开发一个基于Dapper技术的数据库通用的帮助访问类,通过Dapper的增删改查,可以访问Sqlite数据库

Dapper 是一个轻量级的对象关系映射&#xff08;ORM&#xff09;工具&#xff0c;适用于 .NET 平台。它由 Stack Overflow 团队开发&#xff0c;旨在提供简单、高效的数据访问功能。与其他重量级 ORM&#xff08;如 Entity Framework&#xff09;相比&#xff0c;Dapper 更加轻…

基于Python图像增强算法:低光增强+图像修复+超分辨率重建

欢迎大家点赞、收藏、关注、评论啦 &#xff0c;由于篇幅有限&#xff0c;只展示了部分核心代码。 文章目录 一项目简介 二、功能三、系统四. 总结 一项目简介 一、项目背景与意义 在图像处理与计算机视觉领域&#xff0c;图像增强技术是提高图像质量和可用性的重要手段。在实…

单片机io扩展

输入输出扩展 i2c扩展 方案1:PCF8575 PCF8575双向IO口扩展模块 16位输入输出I2C通讯 单片机级联扩展板 方案2&#xff1a;PCA955A 输出扩展 74HC595 io口扩展模块输出口扩展 参考链接 中微爱芯发[2004] 1号           签发人&#xff1a; (szlcsc.com)https://…

❤ Vscode和Idea都可以使用的-AI插件(官方-百度出的)

❤ Vscode和Idea都可以使用的-AI插件&#xff08;官方-百度出的&#xff09; 最新AI特别火&#xff0c;给大家推荐一下最新出的VScode插件&#xff0c;辅助我们写代码&#xff01; 1、下载地址&#xff1a; > https://comate.baidu.com/zh/shopping?inviteCodefkzlak8f …

jmeter中Ultimate Thread Group设计梯度压测场景

Ultimate Thread Group Ultimate Thread Group 线程组是模拟波浪式压测或者阶梯式负载压测 1、Start Threads Count&#xff1a;线程数量 2、Initial Delay&#xff0c;sec&#xff1a;每组开始添加到测试执行之前的延迟&#xff08;xx秒开始启动线程&#xff09; 3、Startu…

python中的线程并行

文章目录 1. 单线程2. 线程池ThreadPoolExecutor 1. 单线程 现在有1154张图片需要顺时针旋转后保存到本地&#xff0c;一般使用循环1154次处理&#xff0c;具体代码如下所示&#xff0c;img_paths中存储1154个图片路径&#xff0c;该代码段耗时约用97ms。 t1time.time() for …