1.Regex (1)Regex一般用來描述文字模式的特殊用法,由一般字元(例如字元a-z)以及特殊字元(稱為元字元,如/、*、?等)組成。 (2)基本元字元集及其含義 ^ :只匹配行首。 如^a 匹配以a開頭的行abc,a2e,a12,aaa,...... $ :只匹配行尾。 如^a 匹配以a結尾的行bca,12a,aaa,....... * :匹配0個或多個此單字元。 如(a)* 匹配 空,a,aa,aaa,.... [] :只匹配[]內字元。可以是一個單字元,也可以是字元序列,用","將裡面要匹配的不同字串分開。也可以使用-來表示[]內字元序列的範圍,如[1-5]表示[12345] / :只用來屏蔽一個元字元的特殊含義。 如/*,/',/",/|,/+,/^,/. 等 。:(點)只匹配任意單字元。 pattern/{n/}:只用來匹配前面pattern出現的次數.n為次數。如a/{2/}匹配aa. pattern/{n,/}:含義同上,但次數最少為n.如a/{2,/}匹配aa,aaa,aaaa,..... pattern/{n,m/}:含義同上,但次數在n和m之間。如a/{2,4/}匹配aa,aaa,aaaa三個 (3)舉例說明: ^$ :匹配空行 ^.$ :匹配包含一個字元的行 /*/.pas :匹配以*.pas結尾的所有字元或檔案 [0123456789]或[0-9] :假定要匹配任意一個數字 [a-z] :任意小寫字母 [A-Za-z] :任意大小寫字母 [S,s] :匹配大小寫S [0-9]/{3/}/.[0-9]/{3/}/.[0-9]/{3/}/.[0-9]/{3/} :匹配IP地址 [0-9]/{3/}三個0-9組成的字串;/. :匹配點(注意這裡點是特殊的字元,所以要用"/"來屏蔽其含義) 2.find介紹 (1)尋找具有某些特徵檔案的命令,可遍曆目前的目錄甚至於整個檔案系統來查看某些檔案或目錄,其遍曆大的檔案系統時一般放在後台執行。 (2)find命令的一般形式 find pathname -options [-print -exec -ok] -pathname :find命令所尋找的目錄路徑。如用"."來表示當前的目錄,用/來表示系統根目錄 -print :find命令將匹配的檔案輸出到標準輸出 -exec: find命令對匹配的檔案執行該參數所給出的shell命令,相應的命令形式為 'command'{} /; (注意{}和/之間的空格) -ok 和 -exec的作用相同,只不過以一種更為安全的模式來執行該參數所給出的shell命令,在執行每一個命令之前,都會給出提示,讓使用者來確定是否執行。 options有如下幾種: -name :按照檔案名稱尋找檔案 -perm :按照檔案許可權來尋找檔案 -user :按照檔案屬主來尋找檔案 -group :按照檔案所屬的組來尋找檔案 -mtime -n +n 按照檔案的更改時間來尋找檔案,-n表示檔案更改時間距現在n天以內,+n表示檔案更改時間距現在n天以前。find命令還有-atime 和-ctime選項,但它們都和-mtime選項相似。 -size n[c]尋找檔案長度為n塊的檔案,帶有c時表示檔案長度以位元組計。 -nogroup 尋找無有效所屬組的檔案,即該檔案所屬的組在/etc/groups中不存在 -newer file1 !file2尋找更改時間比檔案file1新但比檔案file2舊的檔案 -depth 先尋找指定目錄有無匹配檔案,若無則再在子目錄中尋找 -type 尋找某一類型的檔案,如 b :塊裝置檔案 d:目錄 e:字元裝置檔案 p;管道檔案 l:符號連結檔案 f:普通檔案 (3)find命令舉例 find -name "*.txt" -print 尋找txt結尾的檔案並輸出到螢幕上 find /cmd ".sh" -print 尋找/cmd目錄下所有sh檔案,並輸出 find . -perm 755 -print 尋找目前的目錄下許可權為755的檔案,並輸出 find `pwd` -user root -print 尋找目前的目錄下屬主為root的檔案,並輸出 find ./ -group sunwill -print 尋找目前的目錄下所屬主是sunwill的檔案 find /var -mtime -5 -print 尋找/var目錄下更改時間為5天內的所有檔案 find /var -mtime +5 -print 尋找/var目錄下更改時間為5天以前的所有檔案 find /var -newer "myfile1" ! -newer "myfile2" -print 尋找/var目錄下比myfile1新,但是比myfile2舊的所有檔案。 find /var -type d -print 尋找/var目錄下所有目錄 find /var -type l -print 尋找/var目錄下所有的符號連結檔案。 find . -size +1000000c -print 尋找目前的目錄下大於1000000位元組的檔案 find / -name "con.file" -depth -print 尋找根目錄下有無"con.file",若無則在其子目錄中尋找 find . -type f -exec ls -l {} /; 尋找目前的目錄下是否有普通檔案,若有則執行ls -l (4)xargs命令 在使用find命令的-exec選項處理匹配到的檔案時,find命令將所有匹配到的檔案一起傳遞給exec。不幸的是,有些系統對能夠傳遞給exec的命令長度有限制,這樣find命令運行幾分鐘之後就算出現溢出錯誤。錯誤資訊通常是“參數列太長”或“參數列溢出”。這就是xargs的用處所在,特別是與find命令一起使用,exec會發起多個進程,而xargs會多個,只有一個 find ./ -perm -7 -print | xargs chmod o-w 尋找許可權為7的檔案並傳遞給chmod處理 3.grep介紹 (1)grep 的一般格式為 grep [options] 基本Regex [檔案] 字串參數最好採用是雙引號括,一是以防被誤解為shell命令,二是可以用來尋找多個單片語成的字串 -c:只輸出匹配行的記數 -i:不區分大小寫(只適用於單個字元) -h:查詢多個檔案時不顯示檔案名稱 -H:只顯示檔案名稱 -l:查詢多檔案時只輸出包含匹配字元的檔案名稱 -n:只顯示匹配行及其行號 -s:不顯示不存在或無匹配文本的錯誤資訊。 -v:顯示不包含匹配文本的所有行。 (2)舉例說明: grep ^[^210] myfile 匹配myfile中以非2、1、0開頭的行 grep "[5-8][6-9][0-3]" myfile 匹配myfile中第一位為5|6|7|8,第二位6|7|8|9,第三位為0|1|2|3的三個字元的行 grep "4/{2,4/}" myfile 匹配myfile中含有44,444或4444的行 grep "/?" myfile匹配myfile中含有任一字元的行 (3)grep命令類名 [[:upper:]] 表示[A-Z] [[:alnum:]] 表示[0-9a-zA-Z] [[:lower:]] 表示[a-z] [[:space:]] 表示空格或者tab鍵 [[:digit:]] 表示[0-9] [[:alpha:]] 表示[a-zA-Z] 如:grep "5[[:digit:]][[:digit:]]" myfile 匹配myfile中含有5開頭接下去兩位都是數位行。 4.awk介紹 可以從檔案或字串中基於指定規則瀏覽和抽取資訊,是一種自解釋的變成語言。 (1)awk命令列方式 awk [-F filed-spearator] 'command' input-files awk指令碼:所有awk命令插入一個檔案,並使awk程式可執行,然後用awk命令直譯器作為指令碼的首行,以便通過鍵入指令碼名稱來調用它。awk指令碼是由各種操作和模式組成。 模式部分決定動作語句何時觸發及觸發事件。(BEGIN,END) 動作對資料進行處理,放在{}內指明(print) (2)分隔字元、域和記錄 awk執行時,其瀏覽域標記為$1,$2,...$n.這種方法成為域標識。$0為所有域。 (3)舉例說明: awk '{print $0}' test.txt |tee test.out 輸出test.txt中所有行$0表示所有域 awk -F : '{print $1} test.txt |tee test.out' 同上。。只是分隔字元為":" awk 'BEGIN {print "IPDate/n"}{print $1 "/t" $4} END{print "end-of-report"}' test.txt 開始時列印“IPDate”結束時列印“end-of-report”中間列印主體資訊,比如總共匹配三條資訊,則輸出如下: IPDate 1 first 2 second 3 third end-of-report (4)匹配操作符 ~ 匹配,!~ 不匹配 cat test.txt |awk '$0~/210.34.0.13/' 匹配test.txt中為210.34.0.13的行 awk '$0!~/210.34.0.13' test.txt 匹配test.txt中不是210.34.0.13的行 awk '{if($1=="210.34.0.13") print $0}' test.txt 匹配 test.txt中第一個域為210.34.0.13的行。 5.sed介紹 sed不與初始設定檔案打交道,它操作的只是一個拷貝,然後所有的改動如果沒有重新導向到一個檔案,將輸出到螢幕。 sed是一種很重要的文本過濾工具,使用一行命令或者使用管道與grep與awk相結合。是一種非互動性文字資料流編輯。 (1)調用sed的三種方式 使用sed命令列格式為:sed [options] sed命令 輸入檔案 使用sed指令檔格式為:sed[options] -f sed指令檔 輸入檔案 sed指令檔[options] 輸入檔案 --不管是使用shell命令列方式或指令檔方式,如果沒有指定輸入檔案,sed從標準輸入中接受輸入,一般是鍵盤或重新導向結果。 (2)sed 命令的options如下 -n:不列印 -c:下一命令是編輯命令 -f:如果正在調用sed指令檔 (3)sed在檔案中查詢文本的方式 --使用行號,可以是一個簡單的數字,或是一個行號的範圍 --使用Regex (4)讀取文本的方式 x x為一行號 x,y 表示行號範圍從x到y /pattern/ 查詢包含模式的行 /pattern/pattern/ 查詢包含兩個模式的行 pattern/,x 在給定的行號上查詢包含模式的行 x,/pattern/ 通過行號和模式查詢匹配行 x,y! 查詢不包含指定行號x和y的行 (5)基本sed編輯命令 p 列印匹配行 d 刪除匹配行 = 顯示檔案行號 a/ 在定位行號後附加新文本資訊 i/ 在定位行號後插入新文本資訊 c/ 用新文本替換定位文本 s 使用替換模式替換相應模式 r 從另一個檔案中讀檔案 w 寫文本到一個檔案 q 第一個模式比對完成後推出或立即退出 l 顯示與八禁止ASCII代碼等價的控制字元 {} 在定位行執行的命令組 n 從另一個檔案中讀文本下一行,並附加在下一行 g 將模式2粘貼到/pattern n/ y 傳送字元 (6)舉例說明: sed -n '2p' test.txt 列印第二行的資訊(注意:-n是不列印不匹配的資訊,若沒加-n,則列印檔案的所有資訊而不是匹配資訊) sed -n '1,4p' test.txt 列印第一行到第四行的資訊 sed -n '/los/p' test.txt模式比對los,並列印出來 sed -n '2,/los/p' test.txt 從第二行開始。。知道匹配第一個los sed -n '/^$/p' test.txt 匹配空行 sed -n -e '/^$/p' -e '/^$/=' test.txt 列印空行及行號 sed -n '/good/a/morning' test.txt 在匹配到的good後面附加morning sed -n '/good/i/morning' test.txt 在匹配到的good前面插入morning sed -n '/good/c/morning' test.txt 將匹配到的good替換成morning sed '1,2d' test.txt 刪除第1和2行 sed 's/good/good morning/g' test.txt 匹配good並替換成goodmorning send 's/good/& hello /p' test.txt 匹配到good就在其後面加上hello send 's/good/ hello &/p' test.txt 匹配到good就在其前面加上hello 6.合并與分割(sort,uniq,join,cut,paste,split) (1)sot命令 sort [options] files 許多不同的域按不同的列順序分類 -c 測試檔案是否已經分類 -m 合并兩個分類檔案 -u 刪除所有複製行 -o 儲存sort結果的輸出檔案名 -t 域分隔字元,用非空格或tab開始分類 +n :n 為域號,使用此域號開始分類 -n 指定分類是域上的數字分類項 -r 比較求逆 sort -c test.txt 測試檔案是否分類過 sort -u test.txt 排序併合並一樣的行 sort -r test.txt 以相反的順序排列 sort -t "/" +2 test.txt 以"/"分隔,第二個域開始分類 (2)uniq命令 uniq [options ] files 從一個文字檔中去除或禁止重複行 -u 只顯示不重複行 -d 只顯示有重複資料行,每種重複行只顯示其中一行 -c 列印每一重複行出現次數 -f :n為數字,前n個域被忽略 uniq -f 2 test.txt 忽略前2個域 (3)join 命令 join [options] file1 file2 用來將來自兩個分類文字檔的行連在一起 -an,n為一數字,用於串連時從檔案n中顯示不匹配行 -onm ,串連域,n為檔案號,m為域號 -jnm,n為檔案號,m為域號,使用其他域作串連域 -t ,域分隔字元。用來設定非空格或tab鍵的域分隔字元。 (4)split命令 split -output_file_size intput_filename output_filename 用來將大檔案分割成小檔案。 -b n,每個分割檔案的大小n -C n,每個分割檔案一行最多n位元組 -l n,每個分割檔案的行數 -n,同-l n split -10 test.txt 將test.txt分割成10行的小檔案 (5)cut 命令 cut -c n1-n2 filename 顯示每行從開頭算起 n1 到 n2 的文字。 cut -c 3-5 test.txt 顯示test.txt中每行從第3到第5個字元 -------------------------------------------------------------------------結束 |