linux命令分析—SED (二)

SED單行指令碼快速參考（Unix 流編輯器）

英文標題：USEFUL ONE-LINE SCRIPTS FOR SED (Unix stream editor)
原標題：HANDY ONE-LINERS FOR SED (Unix stream editor)

整理：Eric Pement - 電郵：pemente[at]northpark[dot]edu 版本5.5
譯者：Joe Hong - 電郵：hq00e[at]126[dot]com

在以下地址可找到本文檔的最新（英文）版本：
http://sed.sourceforge.net/sed1line.txt
http://www.pement.org/sed/sed1line.txt

其他語言版本：
中文 - http://sed.sourceforge.net/sed1line_zh-CN.html
捷克語 - http://sed.sourceforge.net/sed1line_cz.html
荷語 - http://sed.sourceforge.net/sed1line_nl.html
法語 - http://sed.sourceforge.net/sed1line_fr.html
德語 - http://sed.sourceforge.net/sed1line_de.html

葡語 - http://sed.sourceforge.net/sed1line_pt-BR.html

文本間隔：
--------

# 在每一行後面增加一空行
sed G

# 將原來的所有空行刪除並在每一行後面增加一空行。
# 這樣在輸出的文本中每一行後面將有且只有一空行。
sed '/^$/d;G'

# 在每一行後面增加兩行空行
sed 'G;G'

# 將第一個指令碼所產生的所有空行刪除（即刪除所有偶數行）
sed 'n;d'

# 在匹配式樣“regex”的行之前插入一空行
sed '/regex/{x;p;x;}'

# 在匹配式樣“regex”的行之後插入一空行
sed '/regex/G'

# 在匹配式樣“regex”的行之前和之後各插入一空行
sed '/regex/{x;p;x;G;}'

編號：
--------

# 為檔案中的每一行進行編號（簡單的靠左對齊方式）。這裡使用了“定位字元”
# （tab，見本文末尾關於'\t'的用法的描述）而不是空格來對齊邊緣。
sed = filename | sed 'N;s/\n/\t/'

# 對檔案中的所有行編號（行號在左，文字右端對齊）。
sed = filename | sed 'N; s/^/ /; s/ *\(.\{6,\}\)\n/\1 /'

# 對檔案中的所有行編號，但只顯示非空白行的行號。
sed '/./=' filename | sed '/./N; s/\n/ /'

# 計算行數 （類比 "wc -l"）
sed -n '$='

文本轉換和替代：
--------

# Unix環境：轉換DOS的新行符（CR/LF）為Unix格式。
sed 's/.$//' # 假設所有行以CR/LF結束
sed 's/^M$//' # 在bash/tcsh中，將按Ctrl-M改為按Ctrl-V
sed 's/\x0D$//' # ssed、gsed 3.02.80，及更高版本

# Unix環境：轉換Unix的新行符（LF）為DOS格式。
sed "s/$/`echo -e \\\r`/" # 在ksh下所使用的命令
sed 's/$'"/`echo \\\r`/" # 在bash下所使用的命令
sed "s/$/`echo \\\r`/" # 在zsh下所使用的命令
sed 's/$/\r/' # gsed 3.02.80 及更高版本

# DOS環境：轉換Unix新行符（LF）為DOS格式。
sed "s/$//" # 方法 1
sed -n p # 方法 2

# DOS環境：轉換DOS新行符（CR/LF）為Unix格式。
# 下面的指令碼只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的
# sed可以通過其特有的“--text”選項。你可以使用協助選項（“--help”）看
# 其中有無一個“--text”項以此來判斷所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed則無法進行這一轉換。但可以用“tr”來實現這一轉換。
sed "s/\r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本
tr -d \r <infile >outfile # GNU tr 1.22 或更高版本

# 將每一行前置的“空白字元”（空格，定位字元）刪除
# 使之靠左對齊
sed 's/^[ \t]*//' # 見本文末尾關於'\t'用法的描述

# 將每一行拖尾的“空白字元”（空格，定位字元）刪除
sed 's/[ \t]*$//' # 見本文末尾關於'\t'用法的描述

# 將每一行中的前置和拖尾的空白字元刪除
sed 's/^[ \t]*//;s/[ \t]*$//'

# 在每一行開頭處插入5個空格（使全文向右移動5個字元的位置）
sed 's/^/ /'

# 以79個字元為寬度，將所有文本靠右對齊
sed -e :a -e 's/^.\{1,78\}$/ &/;ta' # 78個字元外加最後的一個空格

# 以79個字元為寬度，使所有文本置中。在方法1中，為了讓文本置中每一行的前
# 頭和後頭都填充了空格。 在方法2中，在置中文本的過程中只在文本的前面填充
# 空格，並且最終這些空格將有一半會被刪除。此外每一行的後頭並未填充空格。
sed -e :a -e 's/^.\{1,77\}$/ & /;ta' # 方法1
sed -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/' # 方法2

# 在每一行中尋找字串“foo”，並將找到的“foo”替換為“bar”
sed 's/foo/bar/' # 只替換每一行中的第一個“foo”字串
sed 's/foo/bar/4' # 只替換每一行中的第四個“foo”字串
sed 's/foo/bar/g' # 將每一行中的所有“foo”都換成“bar”
sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替換倒數第二個“foo”
sed 's/\(.*\)foo/\1bar/' # 替換最後一個“foo”

# 只在行中出現字串“baz”的情況下將“foo”替換成“bar”
sed '/baz/s/foo/bar/g'

# 將“foo”替換成“bar”，並且只在行中未出現字串“baz”的情況下替換
sed '/baz/!s/foo/bar/g'

# 不管是“scarlet”“ruby”還是“puce”，一律換成“red”
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' #對多數的sed都有效
gsed 's/scarlet\|ruby\|puce/red/g' # 只對GNU sed有效

# 倒置所有行，第一行成為最後一行，依次類推（類比“tac”）。
# 由於某些原因，使用下面命令時HHsed v1.5會將檔案中的空行刪除
sed '1!G;h;$!d' # 方法1
sed -n '1!G;h;$p' # 方法2

# 將行中的字元逆序排列，第一個字成為最後一字，……（類比“rev”）
sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'

# 將每兩行串連成一行（類似“paste”）
sed '$!N;s/\n/ /'

# 如果當前行以反斜線“\”結束，則將下一行併到當前行末尾
# 並去掉原來行尾的反斜線
sed -e :a -e '/\\$/N; s/\\\n//; ta'

# 如果當前行以等號開頭，將當前行併到上一行末尾
# 並以單個空格代替原來行頭的“=”
sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'

# 為數字字串增加逗號分隔字元號，將“1234567”改為“1,234,567”
gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta' # GNU sed
sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta' # 其他sed

# 為帶有小數點和負號的數值增加逗號分隔字元（GNU sed）
gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'

# 在每5行後增加一空白行 （在第5，10，15，20，等行後增加一空白行）
gsed '0~5G' # 只對GNU sed有效
sed 'n;n;n;n;G;' # 其他sed

選擇性地顯示特定行：
--------

# 顯示檔案中的前10行 （類比“head”的行為）
sed 10q

# 顯示檔案中的第一行 （類比“head -1”命令）
sed q

# 顯示檔案中的最後10行 （類比“tail”）
sed -e :a -e '$q;N;11,$D;ba'

# 顯示檔案中的最後2行（類比“tail -2”命令）
sed '$!N;$!D'

# 顯示檔案中的最後一行（類比“tail -1”）
sed '$!d' # 方法1
sed -n '$p' # 方法2

# 顯示檔案中的倒數第二行
sed -e '$!{h;d;}' -e x # 當檔案中只有一行時，輸入空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x # 當檔案中只有一行時，顯示該行
sed -e '1{$d;}' -e '$!{h;d;}' -e x # 當檔案中只有一行時，不輸出

# 只顯示匹配Regex的行（類比“grep”）
sed -n '/regexp/p' # 方法1
sed '/regexp/!d' # 方法2

# 只顯示“不”匹配Regex的行（類比“grep -v”）
sed -n '/regexp/!p' # 方法1，與前面的命令相對應
sed '/regexp/d' # 方法2，類似的文法

# 尋找“regexp”並將匹配行的上一行顯示出來，但並不顯示匹配行
sed -n '/regexp/{g;1!p;};h'

# 尋找“regexp”並將匹配行的下一行顯示出來，但並不顯示匹配行
sed -n '/regexp/{n;p;}'

# 顯示包含“regexp”的行及其前後行，並在第一行之前加上“regexp”所
# 在行的行號 （類似“grep -A1 -B1”）
sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h

# 顯示包含“AAA”、“BBB”或“CCC”的行（任意次序）
sed '/AAA/!d; /BBB/!d; /CCC/!d' # 字串的次序不影響結果

# 顯示包含“AAA”、“BBB”和“CCC”的行（固定次序）
sed '/AAA.*BBB.*CCC/!d'

# 顯示包含“AAA”“BBB”或“CCC”的行 （類比“egrep”）
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d # 多數sed
gsed '/AAA\|BBB\|CCC/!d' # 對GNU sed有效

# 顯示包含“AAA”的段落 （段落間以空行分隔）
# HHsed v1.5 必須在“x;”後加入“G;”，接下來的3個指令碼都是這樣
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'

# 顯示包含“AAA”“BBB”和“CCC”三個字串的段落 （任意次序）
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'

# 顯示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 （任意次序）
sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d' # 只對GNU sed有效

# 顯示包含65個或以上字元的行
sed -n '/^.\{65\}/p'

# 顯示包含65個以下字元的行
sed -n '/^.\{65\}/!p' # 方法1，與上面的指令碼相對應
sed '/^.\{65\}/d' # 方法2，更簡便一點的方法

# 顯示部分文本——從包含Regex的行開始到最後一行結束
sed -n '/regexp/,$p'

# 顯示部分文本——指定行號範圍（從第8至第12行，含8和12行）
sed -n '8,12p' # 方法1
sed '8,12!d' # 方法2

# 顯示第52行
sed -n '52p' # 方法1
sed '52!d' # 方法2
sed '52q;d' # 方法3, 處理大檔案時更有效率

# 從第3行開始，每7行顯示一次
gsed -n '3~7p' # 只對GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}' # 其他sed

# 顯示兩個Regex之間的文本（包含）
sed -n '/Iowa/,/Montana/p' # 區分大小寫方式

選擇性地刪除特定行：
--------

# 顯示通篇文檔，除了兩個Regex之間的內容
sed '/Iowa/,/Montana/d'

# 刪除檔案中相鄰的重複行（類比“uniq”）
# 只保留重複行中的第一行，其他行刪除
sed '$!N; /^\(.*\)\n\1$/!P; D'

# 刪除檔案中的重複行，不管有無相鄰。注意hold space所能支援的緩衝
# 大小，或者使用GNU sed。
sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'

# 刪除除重複行外的所有行（類比“uniq -d”）
sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'

# 刪除檔案中開頭的10行
sed '1,10d'

# 刪除檔案中的最後一行
sed '$d'

# 刪除檔案中的最後兩行
sed 'N;$!P;$!D;$d'

# 刪除檔案中的最後10行
sed -e :a -e '$d;N;2,10ba' -e 'P;D' # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba' # 方法2

# 刪除8的倍數行
gsed '0~8d' # 只對GNU sed有效
sed 'n;n;n;n;n;n;n;d;' # 其他sed

# 刪除匹配式樣的行
sed '/pattern/d' # 刪除含pattern的行。當然pattern
# 可以換成任何有效Regex

# 刪除檔案中的所有空行（與“grep '.' ”效果相同）
sed '/^$/d' # 方法1
sed '/./!d' # 方法2

# 只保留多個相鄰空行的第一行。並且刪除檔案頂部和尾部的空行。
# （類比“cat -s”）
sed '/./,/^$/!d' #方法1，刪除檔案頂部的空行，允許尾部保留一空行
sed '/^$/N;/\n$/D' #方法2，允許頂部保留一空行，尾部不留空行

# 只保留多個相鄰空行的前兩行。
sed '/^$/N;/\n$/N;//D'

# 刪除檔案頂部的所有空行
sed '/./,$!d'

# 刪除檔案尾部的所有空行
sed -e :a -e '/^\n*$/{$d;N;ba' -e '}' # 對所有sed有效
sed -e :a -e '/^\n*$/N;/\n$/ba' # 同上，但只對 gsed 3.02.*有效

# 刪除每個段落的最後一行
sed -n '/^$/{p;h;};/./{x;/./p;}'

特殊應用：
--------

# 移除手冊頁（man page）中的nroff標記。在Unix System V或bash shell下使
# 用'echo'命令時可能需要加上 -e 選項。
sed "s/.`echo \\\b`//g" # 外層的雙括弧是必須的（Unix環境）
sed 's/.^H//g' # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/.\x08//g' # sed 1.5，GNU sed，ssed所使用的十六進位的表示方法

# 提取新聞群組或 e-mail 的郵件標頭
sed '/^$/q' # 刪除第一行空行後的所有內容

# 提取新聞群組或 e-mail 的本文部分
sed '1,/^$/d' # 刪除第一行空行之前的所有內容

# 從郵件標頭提取“Subject”（標題列欄位），並移除開頭的“Subject:”字樣
sed '/^Subject: */!d; s///;q'

# 從郵件標頭獲得回複地址
sed '/^Reply-To:/q; /^From:/h; /./d;g;q'

# 擷取郵件地址。在上一個指令碼所產生的那一行郵件標頭的基礎上進一步的將非電郵
# 地址的部分剃除。（見上一指令碼）
sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'

# 在每一行開頭加上一個角括弧和空格（引用資訊）
sed 's/^/> /'

# 將每一行開頭處的角括弧和空格刪除（解除引用）
sed 's/^> //'

# 移除大部分的HTML標籤（包括跨列標籤）
sed -e :a -e 's/<[^>]*>//g;/</N;//ba'

# 將分成多卷的uuencode檔案解碼。移除檔案頭資訊，只保留uuencode編碼部分。
# 檔案必須以特定順序傳給sed。下面第一種版本的指令碼可以直接在命令列下輸入；
# 第二種版本則可以放入一個帶執行許可權的shell指令碼中。（由Rahul Dhesi的一
# 個指令碼修改而來。）
sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode # vers. 1
sed '/^end/,/^begin/d' "$@" | uudecode # vers. 2

# 將檔案中的段落以字母順序排序。段落間以（一行或多行）空行分隔。GNU sed使用
# 字元“\v”來表示垂直定位字元，這裡用它來作為分行符號的預留位置——當然你也可以
# 用其他未在檔案中使用的字元來代替它。
sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g'
gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'

# 分別壓縮每個.TXT檔案，壓縮後刪除原來的檔案並將壓縮後的.ZIP檔案
# 命名為與原來相同的名字（只是副檔名不同）。（DOS環境：“dir /b”
# 顯示不帶路徑的檔案名稱）。
echo @echo off >zipup.bat
dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat

使用SED：Sed接受一個或多個編輯命令，並且每讀入一行後就依次應用這些命令。
當讀入第一行輸入後，sed對其應用所有的命令，然後將結果輸出。接著再讀入第二
行輸入，對其應用所有的命令……並重複這個過程。上一個例子中sed由標準輸入設
備（即命令直譯器，通常是以管道輸入的形式）獲得輸入。在命令列給出一個或多
個檔案名稱作為參數時，這些檔案取代標準輸入裝置成為sed的輸入。sed的輸出將被
送到標準輸出（顯示器）。因此：

cat filename | sed '10q' # 使用管道輸入
sed '10q' filename # 同樣效果，但不使用管道輸入
sed '10q' filename > newfile # 將輸出轉移（重新導向）到磁碟上

要瞭解sed命令的使用說明，包括如何通過指令檔（而非從命令列）來使用這些命
令，請參閱《sed & awk》第二版，作者Dale Dougherty和Arnold Robbins
（O'Reilly，1997；http://www.ora.com），《UNIX Text Processing》，作者
Dale Dougherty和Tim O'Reilly（Hayden Books，1987）或者是Mike Arst寫的教
程——壓縮包的名稱是“U-SEDIT2.ZIP”（在許多網站上都找得到）。要發掘sed
的潛力，則必須對“Regex”有足夠的理解。Regex的資料可以看
《Mastering Regular Expressions》作者Jeffrey Friedl（O'reilly 1997）。
Unix系統所提供的手冊頁（“man”）也會有所協助（試一下這些命令
“man sed”、“man regexp”，或者看“man ed”中關於Regex的部分），但
手冊提供的資訊比較“抽象”——這也是它一直為人所詬病的。不過，它本來就不
是用來教初學者如何使用sed或Regex的教材，而只是為那些熟悉這些工具的人
提供的一些文本參考。

括弧文法：前面的例子對sed命令基本上都使用單引號（'...'）而非雙引號
（"..."）這是因為sed通常是在Unix平台上使用。單引號下，Unix的shell（命令
解譯器）不會對美元符（$）和後引號（`...`）進行解釋和執行。而在雙引號下
美元符會被展開為變數或參數的值，後引號中的命令被執行並以輸出的結果代替
後引號中的內容。而在“csh”及其衍生的shell中使用驚嘆號（!）時需要在其前
面加上轉義用的反斜線（就像這樣：\!）以保證上面所使用的例子能正常運行
（包括使用單引號的情況下）。DOS版本的Sed則一律使用雙引號（"..."）而不是
引號來圈起命令。

'\t'的用法：為了使本文保持行文簡潔，我們在指令碼中使用'\t'來表示一個製表
符。但是現在大部分版本的sed還不能識別'\t'的簡寫方式，因此當在命令列中為
指令碼輸入定位字元時，你應該直接按TAB鍵來輸入定位字元而不是輸入'\t'。下列的工
具軟體都支援'\t'做為一個Regex的字元來表示定位字元：awk、perl、HHsed、
sedmod以及GNU sed v3.02.80。

不同版本的SED：不同的版本間的sed會有些不同之處，可以想象它們之間在文法上
會有差異。具體而言，它們中大部分不支援在編輯命令中間使用標籤（:name）或分
支命令（b,t），除非是放在那些的末尾。這篇文檔中我們盡量選用了可移植性較高
的文法，以使大多數版本的sed的使用者都能使用這些指令碼。不過GNU版本的sed允許使
用更簡潔的文法。想像一下當讀者看到一個很長的命令時的心情：

sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d

好訊息是GNU sed能讓命令更緊湊：

sed '/AAA/b;/BBB/b;/CCC/b;d' # 甚至可以寫成
sed '/AAA\|BBB\|CCC/b;d'

此外，請注意雖然許多版本的sed接受象“/one/ s/RE1/RE2/”這種在's'前帶有空
格的命令，但這些版本中有些卻不接受這樣的命令:“/one/! s/RE1/RE2/”。這時
只需要把中間的空格去掉就行了。

速度最佳化：當由於某種原因（比如輸入檔案較大、處理器或硬碟較慢等）需要提高
命令執行速度時，可以考慮在替換命令（“s/.../.../”）前面加上地址運算式來
提高速度。舉例來說：

sed 's/foo/bar/g' filename # 標準替換命令
sed '/foo/ s/foo/bar/g' filename # 速度更快
sed '/foo/ s//bar/g' filename # 簡寫形式

當只需要顯示檔案的前面的部分或需要刪除後面的內容時，可以在指令碼中使用“q”
命令（退出命令）。在處理大的檔案時，這會節省大量時間。因此：

sed -n '45,50p' filename # 顯示第45到50行
sed -n '51q;45,50p' filename # 一樣，但快得多

如果你有其他的單行指令碼想與大家分享或者你發現了本文檔中錯誤的地方，請發電
子郵件給本文檔的作者（Eric Pement）。郵件中請記得提供你所使用的sed版本、
該sed所啟動並執行作業系統及對問題的適當描述。本文所指的單行指令碼指命令列的長
度在65個字元或65個以下的sed指令碼〔譯註1〕。本文檔的各種指令碼是由以下所列作
者所寫或提供：

Al Aab # 建立了“seders”郵件清單
Edgar Allen # 許多方面
Yiorgos Adamopoulos # 許多方面
Dale Dougherty # 《sed & awk》作者
Carlos Duarte # 《do it with sed》作者
Eric Pement # 本文檔的作者
Ken Pizzini # GNU sed v3.02 的作者
S.G. Ravenhall # 去html標籤指令碼
Greg Ubben # 有諸多貢獻並提供了許多協助
-------------------------------------------------------------------------

譯註1：大部分情況下，sed指令碼無論多長都能寫成單行的形式（通過`-e'選項和`;'
號）——只要命令直譯器支援，所以這裡說的單行指令碼除了能寫成一行還對長度有
所限制。因為這些單行指令碼的意義不在於它們是以單行的形式出現。而是讓使用者能
方便地在命令列中使用這些緊湊的指令碼才是其意義所在。