編寫指令碼令Xtrabackup對MySQL資料進行備份的教程_Mysql

來源:互聯網
上載者:User


Xtrabackup備份恢複原理
備份innodb表時,xtrabackup若干個線程拷貝獨立資料表空間的.ibd檔案,並不停監視此過程中redo log的變化,添加到自己的交易記錄檔(xtrabackup_logfile)中。在此過程中,發生的物理寫操作越多,xtrabackup_logfile越大。在拷貝完成後的第一個prepare階段,xtrabackup採用類似於innodb崩潰恢複的方法,把資料檔案恢複到與記錄檔一致的狀態,並把未提交的交易回復。如果同時需要備份myisam表以及innodb表結構等檔案,那麼就需要用flush tables with lock來獲得全域鎖,開始拷貝這些不再變化的檔案,同時獲得binlog位置,拷貝結束後釋放鎖,也停止對redo log的監視。
 
很多同學對上面的理解有混淆,以為拷貝.ibd檔案就跟作業系統拷貝檔案一樣。其實這裡涉及到fractured page的問題,他應該會重新讀取(應該也有重試次數,超過後備份不成功)。
 
其實這個原理很簡單,瞭解下doublewrite就可以理解了“本段摘錄自《MySQL技術內幕:InnoDB儲存引擎》”:
如果說插入緩衝帶給InnoDB儲存引擎的是效能,那麼兩次寫帶給InnoDB儲存引擎的是資料的可靠性。當資料庫宕機時,可能發生資料庫正在寫一個頁面,而這個頁唯寫了一部分(比如16K的頁,唯寫前4K的頁)的情況,我們稱之為部分寫失效(partial page write)。在InnoDB儲存引擎未使用double write技術前,曾出現過因為部分寫失效而導致資料丟失的情況。
 
有人也許會想,如果發生寫失效,可以通過重做日誌進行恢複。這是一個辦法。但是必須清楚的是,重做日誌中記錄的是對頁的物理操作,如位移量800,寫“aaaa”記錄。如果這個頁本身已經損壞,再對其進行重做是沒有意義的。這就是說,在應用(apply)重做日誌前,我們需要一個頁的副本,當寫入失效發生時,先通過頁的副本來還原該頁,再進行重做,這就是doublewrite。


一、下載和安裝
XtraBackup現在最新版本為2.1.5,官方也提供了2.0的版本可供下載,官方連結地址:http://www.percona.com/software/percona-xtrabackup;可以下載源碼編譯安裝,也可以下載適合的RPM包或使用yum進行安裝。由於沒有需要特殊定製的,因此建議直接使用RPM安裝即可。

安裝方法一:
下載RPM安裝包:

wget http://www.percona.com/downloads/XtraBackup/LATEST/RPM/rhel6/x86_64/percona-xtrabackup-2.1.5-680.rhel6.x86_64.rpm

安裝依賴:

[root@localhost ~]# yum install -y perl-DBD-MySQL perl-DBI perl-Time-HiRes libaio*

安裝:

[root@localhost ~]# rpm -ivh percona-xtrabackup-2.1.5-680.rhel6.x86_64.rpm 
Preparing...           ########################################### [100%] 1:percona-xtrabackup   ########################################### [100%]

安裝方法二:
安裝percona源:

[root@localhost ~]# rpm -Uhv http://www.percona.com/downloads/percona-release/percona-release-0.0-1.x86_64.rpm

使用yum安裝percona-xtrabackup:

[root@localhost ~]# yum -y install percona-xtrabackup

查看安裝結果:

[root@localhost ~]# rpm -qa |grep xtrabackup 
percona-xtrabackup-2.1.5-680.rhel6.x86_64 
[root@localhost ~]# rpm -ql percona-xtrabackup-2.1.5-680.rhel6.x86_64 
/usr/bin/innobackupex /usr/bin/innobackupex-1.5.1 /usr/bin/xbcrypt /usr/bin/xbstream /usr/bin/xtrabackup /usr/bin/xtrabackup_55 /usr/bin/xtrabackup_56 /usr/share/doc/percona-xtrabackup-2.1.5 /usr/share/doc/percona-xtrabackup-2.1.5/COPYING

Xtrabackup中主要包含兩個工具:
xtrabackup:是用於熱備份innodb, xtradb表中資料的工具,不能備份其他類型的表,也不能備份資料表結構;

innobackupex:是將xtrabackup進行封裝的perl指令碼,提供了備份myisam表的能力。

二、備份指令碼

#!/bin/sh#===================================================================================================## 備份工具:##  percona-xtrabackup-2.2.6#### 備份策略:##  (1)、每天淩晨04:20點進行全量備份一次;##  (2)、每隔1小時增量備份一次;###===================================================================================================PATH=/sbin:/bin:/usr/sbin:/usr/bin:/usr/local/bin:/usr/local/sbin ## DB備份基路徑BACKUP_BASE_DIR="/data/mysql_backup" ## 增量備份時,用到的基準目錄列表檔案## 內容格式:基準目錄|本次備份目錄|備份類型【full|inc】INC_BASE_LIST="${BACKUP_BASE_DIR}/incremental_basedir_list.txt" ## 備份工具路徑XTRABACKUP_PATH="/usr/local/xtrabackup/bin/innobackupex" ## MySQL配置路徑MYSQL_CNF_PATH="/etc/my.cnf" ## 線程數THREAD_CNT=6 #===================================================================================================function print_help_info(){  echo "--------------------------------------------------------------"  echo "Usage: $0 full | inc | help"  echo "--------------------------------------------------------------"  echo ""  exit 1} [[ $# -lt 1 ]] && print_help_info[[ -d ${BACKUP_BASE_DIR} ]] || mkdir -p ${BACKUP_BASE_DIR} ## xtrabackup基礎套件不存在時,進行自動下載安裝if [[ ! -e ${XTRABACKUP_PATH} ]]; then  cd /usr/local  wget -q -O xtrabackup-2.2.6.tgz http://www.percona.com/redir/downloads/XtraBackup/LATEST/binary/tarball/percona-xtrabackup-2.2.6-5042-Linux-x86_64.tar.gz  tar xvzf xtrabackup-2.2.6.tgz >/dev/null 2>&1 && rm -f xtrabackup-2.2.6.tgz  mv percona-xtrabackup-2.2.6-Linux-x86_64 xtrabackup-2.2.6  rm -rf xtrabackup && ln -s xtrabackup-2.2.6 xtrabackup     for FNAME in `ls -1t /usr/local/xtrabackup/bin`  do    rm -f /usr/bin/${FNAME} && ln -s /usr/local/xtrabackup/bin/${FNAME} /usr/bin/${FNAME}  donefi ## 只允許一個副本運行,以避免全量備份與增量備份出現交叉,發生資料錯亂的可能性##[[ -n `ps uax | grep innobackupex | grep -v grep` ]] && exit 1 ## 目錄名預設精確到分鐘,為避免意外情況,導致備份任務失敗,可以精確到秒CURRENT_BAK_PATH="${BACKUP_BASE_DIR}/"`date +%F_%H-%M`[[ -d ${CURRENT_BAK_PATH} ]] && CURRENT_BAK_PATH="${BACKUP_BASE_DIR}/"`date +%F_%H-%M-%S` #===================================================================================================## 全量備份if [[ "$1" == "full" ]]; then  ${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}  echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST} ## 增量備份elif [[ "$1" == "inc" ]]; then  ## 基準目錄列表檔案不存在或者為空白的情況,需要做一次全量備份  if [[ ! -f ${INC_BASE_LIST} || `sed '/^$/d' ${INC_BASE_LIST} | wc -l` -eq 0 ]]; then    ${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}    echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}     ## 不存在任何目錄的情況,需要做一次全量備份,以避免增量備份失敗  elif [[ `find ${BACKUP_BASE_DIR} -maxdepth 1 -type d | wc -l` -eq 1 ]]; then    ${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}    echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}     ## 在上一次備份的基礎上,進行增量備份  else    PREV_BACKUP_DIR=`sed '/^$/d' ${INC_BASE_LIST} | tail -1 | awk -F '|' '{print $2}'`    ## 上次的備份目錄不存在或者目錄為空白的情況,以避免人為刪除的可能性【針對部分惡意刪除的情況,目前還沒有較好的檢查方法】    if [[ ! -d ${PREV_BACKUP_DIR} || -z `ls ${PREV_BACKUP_DIR}` ]]; then      ${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp ${CURRENT_BAK_PATH}      echo "NULL|${CURRENT_BAK_PATH}|full" >> ${INC_BASE_LIST}    else      ${XTRABACKUP_PATH} --user=root --defaults-file=${MYSQL_CNF_PATH} --parallel=${THREAD_CNT} --no-timestamp --incremental ${CURRENT_BAK_PATH} --incremental-basedir=${PREV_BACKUP_DIR}      echo "${PREV_BACKUP_DIR}|${CURRENT_BAK_PATH}|inc" >> ${INC_BASE_LIST}    fi  fi elif [[ "$1" == "help" ]]; then  print_help_info else  print_help_infofi ## 刪除2周前的資料備份rm -rf ${BACKUP_BASE_DIR}/`date -d '14 days ago' +'%F'`_*sed -i "/`date -d '14 days ago' +'%F'`/d" ${INC_BASE_LIST} #===================================================================================================##The End ###################################################################################################### 需要添加的crontab資訊:##   (1)、全量備份##   20 04 * * * /data/scripts/mysql_backup.sh full >/dev/null 2>&1####   (2)、增量備份##   00 * * * * /data/scripts/mysql_backup.sh inc >/dev/null 2>&1###################################################################################################### ###################################################################################################### DB資料恢複步驟:##  (1)、應用基準##  innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log --redo-only /data/mysql_backup/full####  (2)、應用第一個增量備份##  innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log --redo-only /data/mysql_backup/full --incremental-dir=/data/mysql_backup/inc_one####  (3)、應用第二個增量備份##  innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log /data/mysql_backup/full --incremental-dir=/data/mysql_backup/inc_two####  (4)、再次應用基準##  innobackupex --user=root --defaults-file=/etc/my.cnf --use-memory=8G --apply-log /data/mysql_backup/full####  (5)、恢複##  innobackupex --user=root --defaults-file=/etc/my.cnf --copy-back /data/mysql_backup/full####################################################################################################

三、效果展示

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.