解決Oracle中Exp/Imp大量資料處理問題

Oracle的exp/imp是許多使用者經常使用的兩個工具。 它們常被用來做資料庫的邏輯備份，資料庫重組和資料轉移等工作。 先由exp把資料卸出到檔案系統， 產生一個。dmp檔案， 然後必要時再由imp將資料裝入資料庫。

對於一般中小型資料庫來說， 全資料庫的exp所產生的dmp檔案可能小於2GB， 但對稍大型的資料庫， exp產生的資料動輒數十至上百個GB. 而現時多數作業系統為32位， 其檔案系統允許的最大檔案為2GB. 這樣顯然不能由檔案系統存放exp產生的資料。 這是問題之一。 另一個問題是隨著資料庫的不斷增大， exp所需時間越來越長以致實際上很難實施。 本文針對以上兩個問題討論相應對策。

我們以UNIX為例首先看看如何超越2GB限制。 這需利用UNIX的通用技術， 如管道（named pipe）， 資料拷貝工具dd以及資料壓縮（compress）。 下面分別討論這幾種技術。

。管道 是一種偽檔案。 它存在於記憶體中， 用於快速I/O操作。 管道的緩衝區採用先進先出機制， 即寫管道進程寫到緩衝區頭部而讀管道進程讀取管道尾部。 建立管道的命令為“mknod filename p".

。dd 允許我們從一個裝置拷貝資料到另一個裝置。

。compress 為UNIX資料壓縮公用程式。

實施exp之前， 我們可先檢查所產生dmp檔案的大小。 以下步驟既可實現，

1. 產生管道：

$ mknod /tmp/mypipe p

2. exp結果輸出到該管道

$ exp file=/tmp/mypipe <……其它exp選項> &

3. 讀取管道並把結果輸出到管道， 只為查看資料量：

$ dd if=/tmp/mypipe of=/dev/null

結果返回exp （。dmp）檔案大小， 單位為塊（512 bytes）。

現在我們可以著手討論具體方法，

1. 檔案壓縮

2. 直接exp到磁帶

3. 綜合方法

首先看檔案壓縮方法。 利用檔案壓縮我們可盡量避免dmp檔案大小超過2GB限制。 我們利用UNIX的管道技術， 具體步驟如下，

1. 啟動compress進程， 使之從管道讀取資料並輸出到磁碟檔案。

$ mknod /tmp/exp_pipe p

$ compress < /tmp/exp_pipe > export.dmp.Z &

2. exp到管道。

$ exp file=/tmp/exp_pipe …… &

imp時情況類似。

再看看直接exp到磁帶上的方法。

$ exp file=/dev/rmt/0m volsize=4G

$ imp file=/dev/rmt/0m volsize=4G

最後看看exp到裸裝置上的方法，

$ exp file=/dev/rdsk/c0t3d0s0 volsize=4G

imp類似。以上方法都可使我們避免2GB限制。

下面討論如何縮短exp索需時間的問題。 目前多數使用者會採用exp到磁帶的方法只因沒有足夠的剩餘硬碟空間。 而整個exp過程所花時間的大部分都在寫磁帶上。 通過我們上面對UNIX工具的討論， 我們可以做到先exp到管道， 再將管道資料壓縮後輸出到磁帶上。 這樣寫磁帶的資料量可大大減少， 從而在相當程度上縮短寫磁帶時間。 另外從Oracle內部角度講， 從7.3版開始， Oracle允許使用者做direct path export， 即跳過Oracle

$ make -f $ORACLE_HOME/rdbms/lib/oracle.mk expst

$ make -f $ORACLE_HOME/rdbms/lib/oracle.mk impst

以上步驟產生的可執行檔expst （exp single task）和impst與exp/imp用法完全相同。 使用它們比使用exp/imp可節省多至30%的時間。 但在使用它們時千萬要注意一點， 即一定要保證在使用expst/impst時不能有任何其他使用者在使用Oracle資料庫， 否則資料庫會產生不可預知的後果甚至毀壞。