鍍金池/ 教程/ GO/ 12.4 備份和恢復(fù)
7 文本處理
3 Web基礎(chǔ)
14 擴(kuò)展Web框架
10.4 小結(jié)
2.2 Go基礎(chǔ)
2.8 總結(jié)
6.1 session和cookie
5.5 使用beedb庫進(jìn)行ORM開發(fā)
8.3 REST
13.6 小結(jié)
5.4 使用PostgreSQL數(shù)據(jù)庫
14.6 pprof支持
14.1 靜態(tài)文件支持
11.2 使用GDB調(diào)試
7.7 小結(jié)
1 GO環(huán)境配置
14.5 多語言支持
7.1 XML處理
1.5 總結(jié)
13 如何設(shè)計(jì)一個(gè)Web框架
14.3 表單及驗(yàn)證支持
12 部署與維護(hù)
10 國際化和本地化
1.1 Go 安裝
6.2 Go如何使用session
5.6 NOSQL數(shù)據(jù)庫操作
6.5 小結(jié)
9.4 避免SQL注入
12.1 應(yīng)用日志
4.2 驗(yàn)證表單的輸入
10.1 設(shè)置默認(rèn)地區(qū)
1.3 Go 命令
9.6 加密和解密數(shù)據(jù)
4.1 處理表單的輸入
4.4 防止多次遞交表單
11.3 Go怎么寫測(cè)試用例
8 Web服務(wù)
12.3 應(yīng)用部署
5.7 小結(jié)
12.5 小結(jié)
11 錯(cuò)誤處理,調(diào)試和測(cè)試
9.2 確保輸入過濾
14.2 Session支持
6.4 預(yù)防session劫持
12.4 備份和恢復(fù)
8.1 Socket編程
13.1 項(xiàng)目規(guī)劃
13.4 日志和配置設(shè)計(jì)
7.6 字符串處理
13.2 自定義路由器設(shè)計(jì)
6.3 session存儲(chǔ)
3.4 Go的http包詳解
8.2 WebSocket
10.3 國際化站點(diǎn)
7.5 文件操作
7.4 模板處理
9.1 預(yù)防CSRF攻擊
13.3 controller設(shè)計(jì)
2.6 interface
14.4 用戶認(rèn)證
2.3 流程和函數(shù)
附錄A 參考資料
11.1 錯(cuò)誤處理
9.5 存儲(chǔ)密碼
9.3 避免XSS攻擊
12.2 網(wǎng)站錯(cuò)誤處理
6 session和數(shù)據(jù)存儲(chǔ)
2.4 struct類型
3.3 Go如何使得Web工作
2.5 面向?qū)ο?/span>
3.1 Web工作方式
1.2 GOPATH與工作空間
2.1 你好,Go
9.7 小結(jié)
13.5 實(shí)現(xiàn)博客的增刪改
7.2 JSON處理
10.2 本地化資源
7.3 正則處理
2 Go語言基礎(chǔ)
5.1 database/sql接口
4.5 處理文件上傳
8.5 小結(jié)
4.3 預(yù)防跨站腳本
5.3 使用SQLite數(shù)據(jù)庫
14.7 小結(jié)
3.2 Go搭建一個(gè)Web服務(wù)器
2.7 并發(fā)
5 訪問數(shù)據(jù)庫
4 表單
3.5 小結(jié)
1.4 Go開發(fā)工具
11.4 小結(jié)
9 安全與加密
5.2 使用MySQL數(shù)據(jù)庫
4.6 小結(jié)
8.4 RPC

12.4 備份和恢復(fù)

這小節(jié)我們要討論應(yīng)用程序管理的另一個(gè)方面:生產(chǎn)服務(wù)器上數(shù)據(jù)的備份和恢復(fù)。我們經(jīng)常會(huì)遇到生產(chǎn)服務(wù)器的網(wǎng)絡(luò)斷了、硬盤壞了、操作系統(tǒng)崩潰、或者數(shù)據(jù)庫不可用了等各種異常情況,所以維護(hù)人員需要對(duì)生產(chǎn)服務(wù)器上的應(yīng)用和數(shù)據(jù)做好異地災(zāi)備,冷備熱備的準(zhǔn)備。在接下來的介紹中,講解了如何備份應(yīng)用、如何備份/恢復(fù)Mysql數(shù)據(jù)庫和redis數(shù)據(jù)庫。

應(yīng)用備份

在大多數(shù)集群環(huán)境下,Web應(yīng)用程序基本不需要備份,因?yàn)檫@個(gè)其實(shí)就是一個(gè)代碼副本,我們?cè)诒镜亻_發(fā)環(huán)境中,或者版本控制系統(tǒng)中已經(jīng)保持這些代碼。但是很多時(shí)候,一些開發(fā)的站點(diǎn)需要用戶來上傳文件,那么我們需要對(duì)這些用戶上傳的文件進(jìn)行備份。目前其實(shí)有一種合適的做法就是把和網(wǎng)站相關(guān)的需要存儲(chǔ)的文件存儲(chǔ)到云儲(chǔ)存,這樣即使系統(tǒng)崩潰,只要我們的文件還在云存儲(chǔ)上,至少數(shù)據(jù)不會(huì)丟失。

如果我們沒有采用云儲(chǔ)存的情況下,如何做到網(wǎng)站的備份呢?這里我們介紹一個(gè)文件同步工具rsync:rsync能夠?qū)崿F(xiàn)網(wǎng)站的備份,不同系統(tǒng)的文件的同步,如果是windows的話,需要windows版本cwrsync。

rsync安裝

rysnc的官方網(wǎng)站:http://rsync.samba.org/ 可以從上面獲取最新版本的源碼。當(dāng)然,因?yàn)閞sync是一款非常有用的軟件,所以很多Linux的發(fā)行版本都將它收錄在內(nèi)了。

軟件包安裝

# sudo apt-get  install  rsync  注:在debian、ubuntu 等在線安裝方法;
# yum install rsync    注:Fedora、Redhat、CentOS 等在線安裝方法;
# rpm -ivh rsync       注:Fedora、Redhat、CentOS 等rpm包安裝方法;

其它Linux發(fā)行版,請(qǐng)用相應(yīng)的軟件包管理方法來安裝。源碼包安裝

tar xvf  rsync-xxx.tar.gz
cd rsync-xxx
./configure --prefix=/usr  ;make ;make install   注:在用源碼包編譯安裝之前,您得安裝gcc等編譯工具才行;

rsync配置

rsync主要有以下三個(gè)配置文件rsyncd.conf(主配置文件)、rsyncd.secrets(密碼文件)、rsyncd.motd(rysnc服務(wù)器信息)。

關(guān)于這幾個(gè)文件的配置大家可以參考官方網(wǎng)站或者其他介紹rsync的網(wǎng)站,下面介紹服務(wù)器端和客戶端如何開啟

  • 服務(wù)端開啟:

      #/usr/bin/rsync --daemon  --config=/etc/rsyncd.conf

    --daemon參數(shù)方式,是讓rsync以服務(wù)器模式運(yùn)行。把rsync加入開機(jī)啟動(dòng)

      echo 'rsync --daemon' >> /etc/rc.d/rc.local

    設(shè)置rsync密碼

      echo '你的用戶名:你的密碼' > /etc/rsyncd.secrets
      chmod 600 /etc/rsyncd.secrets
  • 客戶端同步:

    客戶端可以通過如下命令同步服務(wù)器上的文件:

      rsync -avzP  --delete  --password-file=rsyncd.secrets   用戶名@192.168.145.5::www /var/rsync/backup

    這條命令,簡(jiǎn)要的說明一下幾個(gè)要點(diǎn):

    1. -avzP是啥,讀者可以使用--help查看
    2. --delete 是為了比如A上刪除了一個(gè)文件,同步的時(shí)候,B會(huì)自動(dòng)刪除相對(duì)應(yīng)的文件
    3. --password-file 客戶端中/etc/rsyncd.secrets設(shè)置的密碼,要和服務(wù)端的 /etc/rsyncd.secrets 中的密碼一樣,這樣cron運(yùn)行的時(shí)候,就不需要密碼了
    4. 這條命令中的"用戶名"為服務(wù)端的 /etc/rsyncd.secrets中的用戶名
    5. 這條命令中的 192.168.145.5 為服務(wù)端的IP地址
    6. ::www,注意是2個(gè) : 號(hào),www為服務(wù)端的配置文件 /etc/rsyncd.conf 中的[www],意思是根據(jù)服務(wù)端上的/etc/rsyncd.conf來同步其中的[www]段內(nèi)容,一個(gè) : 號(hào)的時(shí)候,用于不根據(jù)配置文件,直接同步指定目錄。

      為了讓同步實(shí)時(shí)性,可以設(shè)置crontab,保持rsync每分鐘同步,當(dāng)然用戶也可以根據(jù)文件的重要程度設(shè)置不同的同步頻率。

MySQL備份

應(yīng)用數(shù)據(jù)庫目前還是MySQL為主流,目前MySQL的備份有兩種方式:熱備份和冷備份,熱備份目前主要是采用master/slave方式(master/slave方式的同步目前主要用于數(shù)據(jù)庫讀寫分離,也可以用于熱備份數(shù)據(jù)),關(guān)于如何配置這方面的資料,大家可以找到很多。冷備份的話就是數(shù)據(jù)有一定的延遲,但是可以保證該時(shí)間段之前的數(shù)據(jù)完整,例如有些時(shí)候可能我們的誤操作引起了數(shù)據(jù)的丟失,那么master/slave模式是無法找回丟失數(shù)據(jù)的,但是通過冷備份可以部分恢復(fù)數(shù)據(jù)。

冷備份一般使用shell腳本來實(shí)現(xiàn)定時(shí)備份數(shù)據(jù)庫,然后通過上面介紹rsync同步非本地機(jī)房的一臺(tái)服務(wù)器。

下面這個(gè)是定時(shí)備份mysql的備份腳本,我們使用了mysqldump程序,這個(gè)命令可以把數(shù)據(jù)庫導(dǎo)出到一個(gè)文件中。

#!/bin/bash

# 以下配置信息請(qǐng)自己修改
mysql_user="USER" #MySQL備份用戶
mysql_password="PASSWORD" #MySQL備份用戶的密碼
mysql_host="localhost"
mysql_port="3306"
mysql_charset="utf8" #MySQL編碼
backup_db_arr=("db1" "db2") #要備份的數(shù)據(jù)庫名稱,多個(gè)用空格分開隔開 如("db1" "db2" "db3")
backup_location=/var/www/mysql  #備份數(shù)據(jù)存放位置,末尾請(qǐng)不要帶"/",此項(xiàng)可以保持默認(rèn),程序會(huì)自動(dòng)創(chuàng)建文件夾
expire_backup_delete="ON" #是否開啟過期備份刪除 ON為開啟 OFF為關(guān)閉
expire_days=3 #過期時(shí)間天數(shù) 默認(rèn)為三天,此項(xiàng)只有在expire_backup_delete開啟時(shí)有效

# 本行開始以下不需要修改
backup_time=`date +%Y%m%d%H%M`  #定義備份詳細(xì)時(shí)間
backup_Ymd=`date +%Y-%m-%d` #定義備份目錄中的年月日時(shí)間
backup_3ago=`date -d '3 days ago' +%Y-%m-%d` #3天之前的日期
backup_dir=$backup_location/$backup_Ymd  #備份文件夾全路徑
welcome_msg="Welcome to use MySQL backup tools!" #歡迎語

# 判斷MYSQL是否啟動(dòng),mysql沒有啟動(dòng)則備份退出
mysql_ps=`ps -ef |grep mysql |wc -l`
mysql_listen=`netstat -an |grep LISTEN |grep $mysql_port|wc -l`
if [ [$mysql_ps == 0] -o [$mysql_listen == 0] ]; then
        echo "ERROR:MySQL is not running! backup stop!"
        exit
else
        echo $welcome_msg
fi

# 連接到mysql數(shù)據(jù)庫,無法連接則備份退出
mysql -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password <<end
use mysql;
select host,user from user where user='root' and host='localhost';
exit
end

flag=`echo $?`
if [ $flag != "0" ]; then
        echo "ERROR:Can't connect mysql server! backup stop!"
        exit
else
        echo "MySQL connect ok! Please wait......"
        # 判斷有沒有定義備份的數(shù)據(jù)庫,如果定義則開始備份,否則退出備份
        if [ "$backup_db_arr" != "" ];then
                #dbnames=$(cut -d ',' -f1-5 $backup_database)
                #echo "arr is (${backup_db_arr[@]})"
                for dbname in ${backup_db_arr[@]}
                do
                        echo "database $dbname backup start..."
                        `mkdir -p $backup_dir`
                        `mysqldump -h$mysql_host -P$mysql_port -u$mysql_user -p$mysql_password $dbname --default-character-set=$mysql_charset | gzip > $backup_dir/$dbname-$backup_time.sql.gz`
                        flag=`echo $?`
                        if [ $flag == "0" ];then
                                echo "database $dbname success backup to $backup_dir/$dbname-$backup_time.sql.gz"
                        else
                                echo "database $dbname backup fail!"
                        fi

                done
        else
                echo "ERROR:No database to backup! backup stop"
                exit
        fi
        # 如果開啟了刪除過期備份,則進(jìn)行刪除操作
        if [ "$expire_backup_delete" == "ON" -a  "$backup_location" != "" ];then
                 #`find $backup_location/ -type d -o -type f -ctime +$expire_days -exec rm -rf {} \;`
                 `find $backup_location/ -type d -mtime +$expire_days | xargs rm -rf`
                 echo "Expired backup data delete complete!"
        fi
        echo "All database backup success! Thank you!"
        exit
fi

修改shell腳本的屬性:

chmod 600 /root/mysql_backup.sh
chmod +x /root/mysql_backup.sh

設(shè)置好屬性之后,把命令加入crontab,我們?cè)O(shè)置了每天00:00定時(shí)自動(dòng)備份,然后把備份的腳本目錄/var/www/mysql設(shè)置為rsync同步目錄。

00 00 * * * /root/mysql_backup.sh

MySQL恢復(fù)

前面介紹MySQL備份分為熱備份和冷備份,熱備份主要的目的是為了能夠?qū)崟r(shí)的恢復(fù),例如應(yīng)用服務(wù)器出現(xiàn)了硬盤故障,那么我們可以通過修改配置文件把數(shù)據(jù)庫的讀取和寫入改成slave,這樣就可以盡量少時(shí)間的中斷服務(wù)。

但是有時(shí)候我們需要通過冷備份的SQL來進(jìn)行數(shù)據(jù)恢復(fù),既然有了數(shù)據(jù)庫的備份,就可以通過命令導(dǎo)入:

mysql -u username -p databse < backup.sql

可以看到,導(dǎo)出和導(dǎo)入數(shù)據(jù)庫數(shù)據(jù)都是相當(dāng)簡(jiǎn)單,不過如果還需要管理權(quán)限,或者其他的一些字符集的設(shè)置的話,可能會(huì)稍微復(fù)雜一些,但是這些都是可以通過一些命令來完成的。

redis備份

redis是目前我們使用最多的NoSQL,它的備份也分為兩種:熱備份和冷備份,redis也支持master/slave模式,所以我們的熱備份可以通過這種方式實(shí)現(xiàn),相應(yīng)的配置大家可以參考官方的文檔配置,相當(dāng)?shù)暮?jiǎn)單。我們這里介紹冷備份的方式:redis其實(shí)會(huì)定時(shí)的把內(nèi)存里面的緩存數(shù)據(jù)保存到數(shù)據(jù)庫文件里面,我們備份只要備份相應(yīng)的文件就可以,就是利用前面介紹的rsync備份到非本地機(jī)房就可以實(shí)現(xiàn)。

redis恢復(fù)

redis的恢復(fù)分為熱備份恢復(fù)和冷備份恢復(fù),熱備份恢復(fù)的目的和方法同MySQL的恢復(fù)一樣,只要修改應(yīng)用的相應(yīng)的數(shù)據(jù)庫連接即可。

但是有時(shí)候我們需要根據(jù)冷備份來恢復(fù)數(shù)據(jù),redis的冷備份恢復(fù)其實(shí)就是只要把保存的數(shù)據(jù)庫文件copy到redis的工作目錄,然后啟動(dòng)redis就可以了,redis在啟動(dòng)的時(shí)候會(huì)自動(dòng)加載數(shù)據(jù)庫文件到內(nèi)存中,啟動(dòng)的速度根據(jù)數(shù)據(jù)庫的文件大小來決定。

小結(jié)

本小節(jié)介紹了我們的應(yīng)用部分的備份和恢復(fù),即如何做好災(zāi)備,包括文件的備份、數(shù)據(jù)庫的備份。同時(shí)也介紹了使用rsync同步不同系統(tǒng)的文件,MySQL數(shù)據(jù)庫和redis數(shù)據(jù)庫的備份和恢復(fù),希望通過本小節(jié)的介紹,能夠給作為開發(fā)的你對(duì)于線上產(chǎn)品的災(zāi)備方案提供一個(gè)參考方案。