本文收集了一堆的shell指令碼技巧,我說過,我寫部落客要是作一些學習筆記,方便自己查閱,所以,我會搞出這麼一篇文章,也沒有什麼不可理解的。關於這些技巧的出處,誒,我也忘了,可能來自theunixschool、 commandlinefu、酷勤網和igigo.net,當然了,也有部分是我自己的經驗心得,管他呢,進了我的腦子就是我的了。
0. shell 調試
複製代碼 代碼如下:
sh -x somefile.sh
在somefile.sh 檔案裡加上set+x set-x
1. 用 && || 簡化if else
複製代碼 代碼如下:
gzip -t a.tar.gz
if [[ 0 == $? ]]; then
echo "good zip"
else
echo "bad zip"
fi
可以簡化為:
複製代碼 代碼如下:
gzip -t a.tar.gz && echo "good zip" || echo "bad zip"
2. 判斷檔案非空
複製代碼 代碼如下:
if [[ -s $file ]]; then
echo "not empty"
fi
3. 擷取檔案大小
複製代碼 代碼如下:
stat -c %s $file
stat --printf='%s\n' $file
wc -c $file
4. 字串替換
複製代碼 代碼如下:
${string//pattern/replacement}
a='a,b,c'
echo ${a//,/ /}
5. Contains 子字串?
string="My string"
if [[ $string == *My* ]]; then
echo "It's there!"
fi
6. rsync備份
複製代碼 代碼如下:
rsync -r -t -v /source_folder /destination_folder
rsync -r -t -v /source_folder [user@host:/destination_folder
7. 批量重新命名檔案
為所有txt檔案加上.bak 尾碼:
複製代碼 代碼如下:
rename '.txt' '.txt.bak' *.txt
去掉所有的bak尾碼:
複製代碼 代碼如下:
rename '*.bak' '' *.bak
把所有的空格改成底線:
複製代碼 代碼如下:
find path -type f -exec rename 's/ /_/g' {} \;
把檔案名稱都改成大寫:
複製代碼 代碼如下:
find path -type f -exec rename 'y/a-z/A-Z/' {} \;
8. for/while 迴圈
複製代碼 代碼如下:
for ((i=0; i < 10; i++)); do echo $i; done
for line in $(cat a.txt); do echo $line; done
for f in *.txt; do echo $f; done
while read line ; do echo $line; done < a.txt
cat a.txt | while read line; do echo $line; done
9. 刪除空行
複製代碼 代碼如下:
cat a.txt | sed -e '/^$/d'
(echo "abc"; echo ""; echo "ddd";) | awk '{if (0 != NF) print $0;}'
10. 比較檔案的修改時間
複製代碼 代碼如下:
[[ file1.txt -nt file2.txt ]] && echo true || echo false
[[ file1.txt -ot file2.txt ]] && echo true || echo false
11. 實現Dictionary結構
複製代碼 代碼如下:
hput() {
eval "hkey_$1"="$2"
}
hget() {
eval echo '${'"hkey_$1"'}'
}
$ hput k1 aaa
$ hget k1
aaa
12. 去掉第二列
複製代碼 代碼如下:
$echo 'a b c d e f' | cut -d ' ' -f1,3-
$a c d e f
13. 把stderr輸出儲存到變數
複製代碼 代碼如下:
$ a=$( (echo 'out'; echo 'error' 1>&2) 2>&1 1>/dev/null)
$ echo $a
error
14. 刪除前3行
複製代碼 代碼如下:
$cat a.txt | sed 1,3d
15. 讀取多個域到變數
複製代碼 代碼如下:
read a b c <<< "xxx yyy zzz"
16. 遍曆數組
複製代碼 代碼如下:
array=( one two three )
for i in ${array[@]}
do
echo $i
done
17. 查看目錄大小
複製代碼 代碼如下:
$ du –sh ~/apps
18. 查看CPU資訊
複製代碼 代碼如下:
$ cat /proc/cpuinfo
19. date
複製代碼 代碼如下:
$ date +%Y-%m-%d
2012-12-24
$ date +%Y-%m-%d –date ‘-1 day'
2012-12-23
$ date +%Y-m-%d –date ‘Dec 25'
2011-12-25
$ date +%Y-m-%d –date ‘Dec 25 – 10 days'
2011-12-15
20. 擷取路徑名和檔案名稱
複製代碼 代碼如下:
$ dirname ‘/home/lalor/a.txt'
/home/lalor
$ basename ‘/home/lalor/a.txt'
a.txt
21. 並集和交集
comm 可以用來求並集,交集,差集,假設現在有兩個檔案a和b,它們的內容如下:
複製代碼 代碼如下:
$cat a
1
3
5
$cat b
3
4
5
6
7
$comm a b
1
3
4
5
6
7
$comm -1 -2 a b #交集
3
5
$comm a b | sed 's/\t//g' #並集
1
2
3
4
5
6
7
$comm -1 -3 a b | sed 's/\t//g' #b-a
4
6
7
22. awk複雜分隔字元
多字元作分隔字元
複製代碼 代碼如下:
$ echo "a||b||c||d" | awk -F '[|][|]' '{print $3}'
c
多種分隔字元1
複製代碼 代碼如下:
$echo "a||b,#c d" | awk -F '[| ,#]+' '{print $4}'
d
多種分隔字元2
複製代碼 代碼如下:
$echo "a||b##c|#d" | awk -F '([|][|])|([#][#])' '{print $NF}'
c|#d
23. 產生一個隨機數
複製代碼 代碼如下:
echo $RANDOM
24. 按照模式split 檔案
複製代碼 代碼如下:
csplit server.log /PATTERN/ -n 2 -s {*} -f server_result -b "%02d.log" -z
/PATTERN/ 用來匹配某一行,分割過程由此開始
{*} 根據匹配,重複執行分割
-s 靜默模式
-n 分割後檔案名稱尾碼中,數位個數
-f 分割後的檔案名稱首碼
-b 指定尾碼格式
25. 擷取檔案名稱或者副檔名
複製代碼 代碼如下:
var=hack.fun.book.txt
echo ${var%.*}
hack.fun.book
echo ${var%%.*}
hack
echo ${var#.*}
fun.book.txt
echo ${var##.*}
txt
26. 以 root 帳戶執行上一條命令。
複製代碼 代碼如下:
$sudo !!
其中: * !! 是指上一條命令 * !$ 上一條命令的最後一個參數 * !* 上一條命令的所有參數 * !:3 上一條命令的第3個參數
例如:
複製代碼 代碼如下:
$ls /tmp/somedir
ls: cannot access /tmp/somedir: No such file or directory
$mkdir !$
madir /tmp/somedir
27. 利用 python 搭建一個簡單的 Web 服務器,可通過 http://$HOSTNAME:8000 訪問。
複製代碼 代碼如下:
python -m SimpleHTTPServer
28. 在 Vim 中無需許可權儲存編輯的檔案。
複製代碼 代碼如下:
:w !sudo tee %
29. 將上一條命令中的 foo 替換為 bar,並執行。
複製代碼 代碼如下:
^foo^bar
30. 快速備份或複製檔案。
複製代碼 代碼如下:
cp filename{,.bak}
31. 將 ssh keys 複製到 user@host 以啟用無密碼 SSH 登入。
複製代碼 代碼如下:
$ssh-copy-id user@host
32. 把 linux 案頭錄製為視頻。
複製代碼 代碼如下:
ffmpeg -f x11grab -s wxga -r 25 -i :0.0 -sameq /tmp/out.mpg
33. man 妙用
複製代碼 代碼如下:
man ascii
man test
34. 在 vim 中編輯上一條命令
複製代碼 代碼如下:
fc
35. 刪除0 位元組檔案或垃圾檔案
複製代碼 代碼如下:
find . -type f -size 0 -delete
find . -type f -exec rm -rf {} \;
find . -type f -name "a.out" -exec rm -rf {} \;
find . type f -name "a.out" -delete
find . type f -name "*.txt" -print0 | xargs -0 rm -f
36. 在編寫SHELL 時顯示多行資訊
複製代碼 代碼如下:
cat << EOF
+--------------------------------------------------------------+
| === Welcome to Tunoff services === |
+--------------------------------------------------------------+
EOF
注意,在指定結束符時,它必須是該行的唯一內容,並且該行必須以這個字元開頭。
37. 如何給mysql建軟連結
複製代碼 代碼如下:
cd /usr/local/mysql/bin
for i in *
do ln /usr/local/mysql/bin/$i /usr/bin/$i
done
38. 擷取IP地址:
複製代碼 代碼如下:
ifconfig eth0 |grep "inet addr:" |awk '{print $2}'|cut -c 6-
39. 開啟檔案數目
複製代碼 代碼如下:
lsof
40. 清除殭屍進程
複製代碼 代碼如下:
ps -eal | awk '{ if ($2 == "Z"){ print $4}}' | kill -9
41. 列印唯一行
複製代碼 代碼如下:
awk '!a[$0]++' file
42. 列印奇數行
複製代碼 代碼如下:
awk 'i=!i' file
awk 'NR%2' file
43. 列印匹配行後的某一行
複製代碼 代碼如下:
seq 10 | awk '/4/{f=4};--f==0{print;exit}'
44. 列印某行後後面的10行
複製代碼 代碼如下:
cat file | grep -A100 string
cat file | grep -B100 string #前面
cat file | grep -C100 string #前後
sed -n '/string/,+100p'
awk '/string/{f=100}--f>=0'
45. 擷取命令列最後一個參數
複製代碼 代碼如下:
echo ${!#}
echo ${$#} #錯誤的嘗試
46. 輸出重新導向
如果你願你,可以將STDERR 和 STDOUT 的輸出重新導向到一個輸出檔案,為此,bash 提供了特殊的重新導向符號 &>
複製代碼 代碼如下:
ls file nofile &> /dev/null
我們如何在指令碼裡面重新導向呢?沒有什麼特別之處,和普通重新導向一樣。
複製代碼 代碼如下:
#!/bin/bash
#redirecting output to different locations
echo "now redirecting all output to another location" &>/dev/null
問題就來了,如果我們要將所有的輸出都重新導向到某個檔案呢?我們都不希望每次輸出的時候都重新導向一下吧,正所謂,山人自有妙計。我們可以用exec 來永久重新導向,如下所示:
複製代碼 代碼如下:
#!/bin/bash
#redirecting output to different locations
exec 2>testerror
echo "This is the start of the script"
echo "now redirecting all output to another location"
exec 1>testout
echo "This output should go to testout file"
echo "but this should go the the testerror file" >& 2
輸出結果如下所示:
複製代碼 代碼如下:
This is the start of the script
now redirecting all output to another location
lalor@lalor:~/temp$ cat testout
This output should go to testout file
lalor@lalor:~/temp$ cat testerror
but this should go the the testerror file
lalor@lalor:~/temp$
以追加的方式重新導向:
複製代碼 代碼如下:
exec 3 >> testout
取消重新導向:
複製代碼 代碼如下:
exec 3> -
47. 函數
任何地方定義的變數都是全域變數,如果要定義局部變數,需加local 關鍵字
shell中的函數也可以用遞迴
複製代碼 代碼如下:
#!/bin/bash
function factorial {
if [[ $1 -eq 1 ]]; then
echo 1
else
local temp=$[ $1 - 1 ]
local result=`factorial $temp`
echo $[ $result * $1 ]
fi
}
result=`factorial 5`
echo $result
建立函數庫
將函數定一個在另一個檔案,然後通過source 命令載入到當前檔案
在命令列使用函數
將函數定義在~/.bashrc 中即可
向函數傳遞數組
複製代碼 代碼如下:
#!/bin/bash
#adding values in an array
function addarray {
local sum=0
local newarray
newarray=(`echo "$@"`)
for value in ${newarray[*]}
do
sum=$[ $sum+$value ]
done
echo $sum
}
myarray=(1 2 3 4 5)
echo "The original array is: ${myarray[*]}"
arg1=`echo ${myarray[*]}`
result=`addarray $arg1`
echo "The result is $result"
48.Regex
匹配中文字元的Regex:[u4e00-u9fa5]
評註:匹配中文還真是個頭疼的事,有了這個運算式就好辦了
匹配雙位元組字元(包括漢字在內):[^x00-xff]
評註:可以用來計算字串的長度(一個雙位元組字元長度計2,ASCII字元計1)
匹配空白行的Regex:^ *$
評註:可以用來刪除空白行
匹配HTML標記的Regex:<(S*?)[^>]*>.*?</1>|<.*? />
評註:網上流傳的版本太糟糕,上面這個也僅僅能匹配部分,對於複雜的嵌套標記依舊無能為力
匹配首尾空白字元的Regex:^s*|s*$
評註:可以用來刪除行首行尾的空白字元(包括空格、定位字元、換頁符等等),非常有用的運算式
匹配Email地址的Regex:w+([-+.]w+)*@w+([-.]w+)*.w+([-.]w+)*
評註:表單驗證時很實用
匹配網址URL的Regex:[a-zA-z]+://[^s]*
評註:網上流傳的版本功能很有限,上面這個基本可以滿足需求
匹配帳號是否合法(字母開頭,允許5-16位元組,允許字母數字底線):^[a-zA-Z][a-zA-Z0-9_]{4,15}$
評註:表單驗證時很實用
匹配國內電話號碼:d{3}-d{8}|d{4}-d{7}
評註:匹配形式如0511-4405222或021-87888822
匹配騰訊QQ號:[1-9][0-9]{4,}
評註:騰訊QQ號從10000開始
匹配中國郵遞區號:[1-9]d{5}(?!d)
評註:中國郵遞區號為6位元字
匹配身份證:d{15}|d{18}
評註:中國的身份證為15位或18位
匹配ip地址:d+.d+.d+.d+
評註:提取ip地址時有用
匹配特定數字:
^[1-9]d*$ //匹配正整數
^-[1-9]d*$ //匹配負整數
^-?[1-9]d*$ //匹配整數
^[1-9]d*|0$ //匹配非負整數(正整數+ 0)
^-[1-9]d*|0$ //匹配非正整數(負整數+ 0)
^[1-9]d*.d*|0.d*[1-9]d*$ //匹配正浮點數
^-([1-9]d*.d*|0.d*[1-9]d*)$ //匹配負浮點數
^-?([1-9]d*.d*|0.d*[1-9]d*|0?.0+|0)$ //匹配浮點數
^[1-9]d*.d*|0.d*[1-9]d*|0?.0+|0$ //匹配非負浮點數(正浮點數+ 0)
^(-([1-9]d*.d*|0.d*[1-9]d*))|0?.0+|0$ //匹配非正浮點數(負浮點數+ 0)
評註:處理大量資料時有用,具體應用時注意修正
匹配特定字串:
^[A-Za-z]+$ //匹配由26個英文字母組成的字串
^[A-Z]+$ //匹配由26個英文字母的大寫組成的字串
^[a-z]+$ //匹配由26個英文字母的小寫組成的字串
^[A-Za-z0-9]+$ //匹配由數字和26個英文字母組成的字串
^w+$ //匹配由數字、26個英文字母或者底線組成的字串