MySQL数据库之全量+增量+二进制日志的备份与恢复

一、简介数据的备份与恢复

1、为什么备份？

• 灾难恢复：人为错误、硬件故障（冗余）、软件故障（bug）、自然灾害、黑客攻击、误操作、…；
• 测试；

2、备份时应该注意些什么？

• 能容忍最多丢失多少数据；
• 恢复数据需要在多长时间内完成；
• 需要恢复哪些数据；
• 做恢复演练：测试备份的可用性；增强恢复操作效率；
  …

2、备份的数据集的范围：

• 完全备份：整个数据集；
• 部分备份：数据集的一部分，比如部分表；

3、全量备份、增量备份、差异备份：

• 完全备份
• 增量备份：仅备份自上一次完全备份或 增量备份以来变量的那部数据；
• 差异备份：仅备份自上一次完全备份以来变量的那部数据；

4、根据数据服务是否在线：

• 热备：读写操作均可进行的状态下所做的备份；
• 温备：可读但不可写状态下进行的备份；
• 冷备：读写操作均不可进行的状态下所做的备份；

注意：在实际生产环境中，很少有把服务器机器停下来进行备份，一般是在运行中进行备份数据，而且专门备份的数据相比之下都是较大的数据，所以一般情况使用的是物理热备。

5、备份策略：

• 全量+差异 + binlogs
• 全量+增量 + binlogs

6、备份工具：

• mysqldump：mysql服务自带的备份工具，是一种逻辑备份工具，它支持一下方式备份：
  完全、部分备份；
  InnoDB：热备；
  MyISAM：温备；

• cp/tar
  lvm2：快照（请求一个全局锁），之后立即释放锁，达到几乎热备的效果；物理备份；
  注意：不能仅备份数据文件；要同时备份事务日志；
  前提：要求数据文件和事务日志位于同一个逻辑卷；

• innobackup[收费] / xtrabackup[免费]：
  由Percona提供，开源工具，支持对InnoDB做热备，物理备份工具；
  完全备份、部分备份；
  完全备份、增量备份；
  完全备份、差异备份；

二、实现数据库全量+增量+二进制日志备份与恢复

Xtrabackup是MySQL数据库的备份不可多得的工具之一。提供了全备，增备，数据库级别，表级别备份等等。
percona-xtrabackup软件包中中包含了两个工具，一个是xtrabackup，另一个是innobackupex，innobackupex由per进行封装，在对innodb表进行备份时会自动调用xtraback工具，所以对InnoDB表做备份的实际是xtrabackup这个工具，xtrabackup也只能对innodb表做备份，这是一个专门对innodb开发的热备工具，而对myisam这样的其他引擎的表则由innobackupex来负责备份，若是全备份加增量的方案，那每次增量innobackupex工具对非innodb表都是全备份且会请求读锁。
xtrabackup对innodb表进行备份时不再只是简单复制文件，而是利用在innodb存储引擎层中的LSN（日志序列号）的新旧来识别这一数据页是否需要备份。
xtraback工具对innodb引擎完美支持真正的热备份，备份好的数据中数据文件与事务日志的文件因innodb cache等因素的存在，所以备份好的数据和事务日志中的数据往往是不一致的，所以，在做数据恢复时需要把事务日志中已提交的事务做redo，没有提交的事务做undo操作，这就是在做数据恢复时要做的准备工作，即prepare。
在以下地址可以下载到xtrabackup：http://www.percona.com/downloads/XtraBackup/，可以根据自己的需要选择稳定版本或者最新版本以及操作系统、源码包或者rpm包等等。
我下载了最新版的rpm包：percona-xtrabackup-24-2.4.8-1.el7.x86_64.rpm
使用yum安装可以把依赖的包一起安装上

[root@node2 ~]#yum install percona-xtrabackup-24-2.4.8-1.el7.x86_64.rpm

每个InnoDB的页面都会包含一个LSN信息，每当相关的数据发生改变，相关的页面的LSN就会自动增长。这正是InnoDB表可以进行增量备份的基础，即innobackupex通过备份上次完全备份之后发生改变的页面来实现。
实验环境：两台安装centos7系统的主机，A主机上安装Mariadb数据库，并且已经初始化，B主机上安装了Mariadb数据库，没有初始化。并且A和B都安装了percona-xtrabackup-24-2.4.8-1.el7.x86_64.rpm
需要注意的是，增量备份仅能应用于InnoDB表，对于MyISAM表而言，执行增量备份时其实进行的是完全备份。
在A主机上：
创建一个数据库test，并且在数据下创建一个students表，里面添加了若干数据数据。

表结构 MariaDB [(none)]> DESC test.students;+--------+---------------------+------+-----+---------+----------------+| Field  | Type                | Null | Key | Default | Extra          |+--------+---------------------+------+-----+---------+----------------+| id     | int(10) unsigned    | NO   | PRI | NULL    | auto_increment || name   | char(30)            | NO   |     | NULL    |                || age    | tinyint(3) unsigned | YES  | MUL | NULL    |                || gender | enum('F','M')       | YES  |     | NULL    |                || major  | varchar(100)        | YES  |     | NULL    |                |+--------+---------------------+------+-----+---------+----------------+5 rows in set (0.05 sec)

表中的数据MariaDB [(none)]> select * from test.students;.............................| 3089 | stu89    |   95 | M      | NULL   || 3090 | stu90    |   87 | F      | NULL   |+------+----------+------+--------+--------+

备份
全量备份

mkdir /mysdate/backups -pv    #创建备份文件存放的目录[root@node2 ~]#innobackupex --user=root --password=magedu --host=localhost /mydate/backups/    #全量备份..........................................171114 09:57:11 completed OK![root@node2 ~]#cd /mydate/backups/[root@node2 /mydate/backups]#ls2017-11-11_10-02-09          #以当前时间命令的备份文件 [root@node2 /mydate/backups]#ll 2017-11-11_10-02-09/   total 18460-rw-r-----. 1 root root      417 Nov 11 10:02 backup-my.cnf    配置信息 -rw-r-----. 1 root root 18874368 Nov 11 10:02 ibdata1drwxr-x---. 2 root root     4096 Nov 11 10:02 mysql        drwxr-x---. 2 root root     4096 Nov 11 10:02 performance_schemadrwxr-x---. 2 root root     4096 Nov 11 10:02 test-rw-r-----. 1 root root      113 Nov 11 10:02 xtrabackup_checkpoints  二进制文件的信息，备份的那一刻，处在什么位置-rw-r-----. 1 root root      449 Nov 11 10:02 xtrabackup_info      备份的信息，版本，时间-rw-r-----. 1 root root     2560 Nov 11 10:02 xtrabackup_logfile

第一次修改数据

MariaDB [(none)]> INSERT INTO test.students VALUE (3100,'xiaoming',18,'M','shuxue');MariaDB [(none)]> select * from test.students;.............................| 3089 | stu89    |   95 | M      | NULL   || 3090 | stu90    |   87 | F      | NULL   || 3100 | xiaoming |   18 | M      | shuxue |+------+----------+------+--------+--------+

修改数据后，第一次增量备份

[root@node2 ~]#innobackupex --user=root --password=magedu --host=localhost --incremental /mydate/backups/ --incremental-basedir=/mydate/backups/2017-11-14_09-51-50[root@node2 /mydate/backups/2017-11-14_09-51-50]#cat  xtrabackup_checkpoints    #查看备份文件backup_type = full-backuped     # 全量备份 from_lsn = 0                #从0位置开始to_lsn = 2622741            #到2622741last_lsn = 2622741compact = 0recover_binlog_info = 0

第二次修改数据

MariaDB [(none)]> DELETE FROM test.students WHERE id='3090';Query OK, 1 row affected (0.05 sec)MariaDB [(none)]> select * from test.students;.............................| 3089 | stu89    |   95 | M      | NULL   || 3100 | xiaoming |   18 | M      | shuxue |+------+----------+------+--------+--------+

第二次修改数据后增量备份

[root@node2 ~]#innobackupex --user=root --password=magedu --host=localhost --incremental /mydate/backups/ --incremental-basedir=/mydate/backups/2017-11-14_09-57-07[root@node2 /mydate/backups]#lltotal 12drwxr-x---. 5 root root 4096 Nov 14 09:51 2017-11-14_09-51-50      #全量备份文件drwxr-x---. 5 root root 4096 Nov 14 09:57 2017-11-14_09-57-07      #第一次增量备份文件drwxr-x---. 5 root root 4096 Nov 14 10:08 2017-11-14_10-08-11      #第二次增量备份文件[root@node2 /mydate/backups/2017-11-14_09-57-07]#cat xtrabackup_checkpoints backup_type = incremental   #增量备份 from_lsn = 2622741          #从2622741to_lsn = 2623193            #至2623193last_lsn = 2623193compact = 0recover_binlog_info = 0

第三次修改

MariaDB [(none)]> UPDATE test.students SET major='yingyu' WHERE id='3100';MariaDB [(none)]> select * from test.students;......................| 3089 | stu89    |   95 | M      | NULL   || 3100 | xiaoming |   18 | M      | yingyu |+------+----------+------+--------+--------+

修改之后，这时候，服务器宕机，数据库崩溃，需要我们恢复数据，但是二进制日志还在。
查看最后一次增量备份完成的位置，以确定后面的操作二进制日志开始纪录的位置，并二进制日志还原数据增量备份之后的数据

[root@node2 /mydate/backups/2017-11-14_10-08-11]#cat xtrabackup_binlog_info ON.000001   651

备份增量备份之后的二进制日志文件

[root@node2 ~]#mysqlbinlog -j 651 /var/lib/mysql/ON.000001 > /root/mysql.sql

把A机器上的备份的文件，以及二进制日志文件拷贝到B机器上，准备做恢复操作。
注意：备份的数据不应该和原数据存放在一起，如果遭受遭难，那么备份的数据和原数据一起被损坏，备份就失去意义了。
恢复
准备增量备份与整理完全备份有着一些不同，尤其要注意的是：
（1）需要在每个备份（包括完全和各个增量备份）上，将已经提交的事务进行“重放”。“重放之后”，所有的备份数据将合并到完全备份上。
（2）基于所有的备份将未提交的事务进行“回滚”。全量备份文件中完成和未完成的，执行提交和回滚操作。
全量备份文件中完成和未完成的，执行提交和回滚操作

[root@localhost ~]#innobackupex --apply-log --redo-only /root/2017-11-14_09-51-50  

第一次增量备份文件中完成和未完成的，执行提交和回滚操作

[root@localhost ~]#innobackupex --apply-log --redo-only /root/2017-11-14_09-51-50 --incremental-dir /root/2017-11-14_09-57-07

第二次增量备份文件中完成和未完成的，执行提交和回滚操作

[root@localhost ~]#innobackupex --apply-log --redo-only /root/2017-11-14_09-51-50 --incremental-dir /root/2017-11-14_10-08-11

全部在滚回提交一次

[root@localhost ~]#innobackupex --apply-log /root/2017-11-14_09-51-50

同时可以注意到，备份开始的位置是全量备份最初的位置，结束的位置，是第二次增量备份结束的位置。

[root@localhost ~/2017-11-14_09-51-50]#cat xtrabackup_checkpointsbackup_type = full-preparedfrom_lsn = 0    #开始to_lsn = 2623711   #结束last_lsn = 2623711compact = 0recover_binlog_info = 0

恢复全量+第一次增量+第二次增量备份数据

[root@localhost ~]#innobackupex --copy-back 2017-11-14_09-51-50    #恢复数据

如下，数据库中已经有对应的数据

[root@localhost /var/lib/mysql]#lltotal 40980-rw-r-----. 1 root root 18874368 Nov 14 11:02 ibdata1-rw-r-----. 1 root root  5242880 Nov 14 11:02 ib_logfile0-rw-r-----. 1 root root  5242880 Nov 14 11:02 ib_logfile1-rw-r-----. 1 root root 12582912 Nov 14 11:02 ibtmp1drwxr-x---. 2 root root     4096 Nov 14 11:02 mysqldrwxr-x---. 2 root root     4096 Nov 14 11:02 performance_schemadrwxr-x---. 2 root root     4096 Nov 14 11:02 test-rw-r-----. 1 root root       16 Nov 14 11:02 xtrabackup_binlog_pos_innodb-rw-r-----. 1 root root      564 Nov 14 11:02 xtrabackup_info

把备份数据文件的所属主和所属组修改为mysql

[root@localhost /var/lib/mysql]#chown -R mysql.mysql ./ [root@localhost /var/lib/mysql]#lltotal 40980-rw-r-----. 1 mysql mysql 18874368 Nov 14 11:02 ibdata1-rw-r-----. 1 mysql mysql  5242880 Nov 14 11:02 ib_logfile0-rw-r-----. 1 mysql mysql  5242880 Nov 14 11:02 ib_logfile1-rw-r-----. 1 mysql mysql 12582912 Nov 14 11:02 ibtmp1drwxr-x---. 2 mysql mysql     4096 Nov 14 11:02 mysqldrwxr-x---. 2 mysql mysql     4096 Nov 14 11:02 performance_schemadrwxr-x---. 2 mysql mysql     4096 Nov 14 11:02 test-rw-r-----. 1 mysql mysql       16 Nov 14 11:02 xtrabackup_binlog_pos_innodb-rw-r-----. 1 mysql mysql      564 Nov 14 11:02 xtrabackup_info

登陆数据库，需要注意的是，登陆的用户名，密码都是原数据的用户名和密码

MariaDB [(none)]> select * from test.students;| 3088 | stu88    |   38 | M      | NULL   || 3089 | stu89    |   95 | M      | NULL   || 3100 | xiaoming |   18 | M      | shuxue |+------+----------+------+--------+--------+1089 rows in set (0.07 sec)

细心的朋友可以看到，我们并没有完全恢复数据，还有增量备份之后的数据还没恢复。

MariaDB [(none)]> SET @@session.sql_log_bin=OFF;MariaDB [(none)]> \. /tmp/mysql.sqlQuery OK, 0 rows affected (0.00 sec)MariaDB [(none)]> SET @@session.sql_log_bin=ON;Query OK, 0 rows affected (0.00 sec)

恢复完成，和宕机之前数据做对比，完全一样，恢复成功
MariaDB [(none)]> select * from test.students;
| 3088 | stu88 | 38 | M | NULL |
| 3089 | stu89 | 95 | M | NULL |
| 3100 | xiaoming | 18 | M | yingyu |
+——+———-+——+——–+——–+
1089 rows in set (0.01 sec)

恢复完成后，不要着急上线，赶紧做一次全量备份，生成新的序列。