Shell編程筆記(進階2)文本過濾

來源:互聯網
上載者:User
Shell編程筆記(4)-文本過濾
作者: sunwill_chen 發表日期: 2007-01-30 17:17 文章屬性: 原創 複製連結

1.Regex
  (1)Regex一般用來描述文字模式的特殊用法,由一般字元(例如字元a-z)以及特殊字元(稱為元字元,如/、*、?等)組成。
  (2)基本元字元集及其含義
      ^ :只匹配行首。   如^a 匹配以a開頭的行abc,a2e,a12,aaa,......
      $ :只匹配行尾。   如^a 匹配以a結尾的行bca,12a,aaa,.......
      * :匹配0個或多個此單字元。 如(a)* 匹配 空,a,aa,aaa,....
      [] :只匹配[]內字元。可以是一個單字元,也可以是字元序列,用","將裡面要匹配的不同字串分開。也可以使用-來表示[]內字元序列的範圍,如[1-5]表示[12345]
      / :只用來屏蔽一個元字元的特殊含義。 如/*,/',/",/|,/+,/^,/. 等
      。:(點)只匹配任意單字元。
      pattern/{n/}:只用來匹配前面pattern出現的次數.n為次數。如a/{2/}匹配aa.
      pattern/{n,/}:含義同上,但次數最少為n.如a/{2,/}匹配aa,aaa,aaaa,.....
      pattern/{n,m/}:含義同上,但次數在n和m之間。如a/{2,4/}匹配aa,aaa,aaaa三個
  (3)舉例說明:
      ^$ :匹配空行
      ^.$ :匹配包含一個字元的行
    /*/.pas :匹配以*.pas結尾的所有字元或檔案
    [0123456789]或[0-9] :假定要匹配任意一個數字
    [a-z] :任意小寫字母
    [A-Za-z] :任意大小寫字母
    [S,s] :匹配大小寫S
    [0-9]/{3/}/.[0-9]/{3/}/.[0-9]/{3/}/.[0-9]/{3/} :匹配IP地址 [0-9]/{3/}三個0-9組成的字串;/. :匹配點(注意這裡點是特殊的字元,所以要用"/"來屏蔽其含義)
2.find介紹
  (1)尋找具有某些特徵檔案的命令,可遍曆目前的目錄甚至於整個檔案系統來查看某些檔案或目錄,其遍曆大的檔案系統時一般放在後台執行。
  (2)find命令的一般形式
      find pathname -options [-print -exec -ok]
      -pathname :find命令所尋找的目錄路徑。如用"."來表示當前的目錄,用/來表示系統根目錄
      -print :find命令將匹配的檔案輸出到標準輸出
      -exec: find命令對匹配的檔案執行該參數所給出的shell命令,相應的命令形式為
        'command'{} /; (注意{}和/之間的空格)
      -ok 和 -exec的作用相同,只不過以一種更為安全的模式來執行該參數所給出的shell命令,在執行每一個命令之前,都會給出提示,讓使用者來確定是否執行。
    options有如下幾種:
    -name :按照檔案名稱尋找檔案
    -perm :按照檔案許可權來尋找檔案
    -user :按照檔案屬主來尋找檔案
    -group :按照檔案所屬的組來尋找檔案
    -mtime -n +n 按照檔案的更改時間來尋找檔案,-n表示檔案更改時間距現在n天以內,+n表示檔案更改時間距現在n天以前。find命令還有-atime 和-ctime選項,但它們都和-mtime選項相似。
    -size n[c]尋找檔案長度為n塊的檔案,帶有c時表示檔案長度以位元組計。
    -nogroup 尋找無有效所屬組的檔案,即該檔案所屬的組在/etc/groups中不存在
    -newer file1 !file2尋找更改時間比檔案file1新但比檔案file2舊的檔案
    -depth 先尋找指定目錄有無匹配檔案,若無則再在子目錄中尋找
    -type 尋找某一類型的檔案,如
      b :塊裝置檔案
      d:目錄
      e:字元裝置檔案
      p;管道檔案
      l:符號連結檔案
      f:普通檔案
  (3)find命令舉例
      find -name "*.txt" -print 尋找txt結尾的檔案並輸出到螢幕上
      find /cmd ".sh" -print 尋找/cmd目錄下所有sh檔案,並輸出
      find . -perm 755 -print 尋找目前的目錄下許可權為755的檔案,並輸出
      find `pwd` -user root -print 尋找目前的目錄下屬主為root的檔案,並輸出
      find ./ -group sunwill -print 尋找目前的目錄下所屬主是sunwill的檔案
      find /var -mtime -5 -print 尋找/var目錄下更改時間為5天內的所有檔案
      find /var -mtime +5 -print 尋找/var目錄下更改時間為5天以前的所有檔案
      find /var -newer "myfile1" ! -newer "myfile2" -print 尋找/var目錄下比myfile1新,但是比myfile2舊的所有檔案。
      find /var -type d -print 尋找/var目錄下所有目錄
      find /var -type l -print 尋找/var目錄下所有的符號連結檔案。
      find . -size +1000000c -print 尋找目前的目錄下大於1000000位元組的檔案
      find / -name "con.file" -depth -print 尋找根目錄下有無"con.file",若無則在其子目錄中尋找
      find . -type f -exec ls -l {} /; 尋找目前的目錄下是否有普通檔案,若有則執行ls -l
    (4)xargs命令
      在使用find命令的-exec選項處理匹配到的檔案時,find命令將所有匹配到的檔案一起傳遞給exec。不幸的是,有些系統對能夠傳遞給exec的命令長度有限制,這樣find命令運行幾分鐘之後就算出現溢出錯誤。錯誤資訊通常是“參數列太長”或“參數列溢出”。這就是xargs的用處所在,特別是與find命令一起使用,exec會發起多個進程,而xargs會多個,只有一個
      find ./ -perm -7 -print | xargs chmod o-w 尋找許可權為7的檔案並傳遞給chmod處理

3.grep介紹
  (1)grep 的一般格式為 grep [options] 基本Regex [檔案]
      字串參數最好採用是雙引號括,一是以防被誤解為shell命令,二是可以用來尋找多個單片語成的字串
      -c:只輸出匹配行的記數
      -i:不區分大小寫(只適用於單個字元)
      -h:查詢多個檔案時不顯示檔案名稱
      -H:只顯示檔案名稱
      -l:查詢多檔案時只輸出包含匹配字元的檔案名稱
      -n:只顯示匹配行及其行號
      -s:不顯示不存在或無匹配文本的錯誤資訊。
      -v:顯示不包含匹配文本的所有行。
  (2)舉例說明:
      grep ^[^210] myfile 匹配myfile中以非2、1、0開頭的行
      grep "[5-8][6-9][0-3]" myfile 匹配myfile中第一位為5|6|7|8,第二位6|7|8|9,第三位為0|1|2|3的三個字元的行
      grep "4/{2,4/}" myfile 匹配myfile中含有44,444或4444的行
      grep "/?" myfile匹配myfile中含有任一字元的行
  (3)grep命令類名
      [[:upper:]]   表示[A-Z]
      [[:alnum:]]   表示[0-9a-zA-Z]
      [[:lower:]]   表示[a-z]
      [[:space:]]   表示空格或者tab鍵
      [[:digit:]]   表示[0-9]
      [[:alpha:]]   表示[a-zA-Z]
    如:grep "5[[:digit:]][[:digit:]]" myfile 匹配myfile中含有5開頭接下去兩位都是數位行。

4.awk介紹
可以從檔案或字串中基於指定規則瀏覽和抽取資訊,是一種自解釋的變成語言。
(1)awk命令列方式 awk [-F filed-spearator] 'command' input-files
    awk指令碼:所有awk命令插入一個檔案,並使awk程式可執行,然後用awk命令直譯器作為指令碼的首行,以便通過鍵入指令碼名稱來調用它。awk指令碼是由各種操作和模式組成。
    模式部分決定動作語句何時觸發及觸發事件。(BEGIN,END)
    動作對資料進行處理,放在{}內指明(print)
(2)分隔字元、域和記錄
    awk執行時,其瀏覽域標記為$1,$2,...$n.這種方法成為域標識。$0為所有域。
(3)舉例說明:
      awk '{print $0}' test.txt |tee test.out 輸出test.txt中所有行$0表示所有域
      awk -F : '{print $1} test.txt |tee test.out'   同上。。只是分隔字元為":"
      awk 'BEGIN {print "IPDate/n"}{print $1 "/t" $4} END{print "end-of-report"}' test.txt
      開始時列印“IPDate”結束時列印“end-of-report”中間列印主體資訊,比如總共匹配三條資訊,則輸出如下:  
IPDate
1 first
2 second
3 third
end-of-report
  (4)匹配操作符 ~ 匹配,!~ 不匹配
      cat test.txt |awk '$0~/210.34.0.13/' 匹配test.txt中為210.34.0.13的行
      awk '$0!~/210.34.0.13' test.txt     匹配test.txt中不是210.34.0.13的行
      awk '{if($1=="210.34.0.13") print $0}' test.txt 匹配 test.txt中第一個域為210.34.0.13的行。

5.sed介紹
    sed不與初始設定檔案打交道,它操作的只是一個拷貝,然後所有的改動如果沒有重新導向到一個檔案,將輸出到螢幕。
    sed是一種很重要的文本過濾工具,使用一行命令或者使用管道與grep與awk相結合。是一種非互動性文字資料流編輯。
    (1)調用sed的三種方式
      使用sed命令列格式為:sed [options] sed命令 輸入檔案
      使用sed指令檔格式為:sed[options] -f sed指令檔 輸入檔案
      sed指令檔[options] 輸入檔案
      --不管是使用shell命令列方式或指令檔方式,如果沒有指定輸入檔案,sed從標準輸入中接受輸入,一般是鍵盤或重新導向結果。
    (2)sed 命令的options如下
        -n:不列印
        -c:下一命令是編輯命令
        -f:如果正在調用sed指令檔
    (3)sed在檔案中查詢文本的方式
          --使用行號,可以是一個簡單的數字,或是一個行號的範圍
          --使用Regex
    (4)讀取文本的方式
          x       x為一行號
          x,y       表示行號範圍從x到y
          /pattern/     查詢包含模式的行
          /pattern/pattern/ 查詢包含兩個模式的行
          pattern/,x   在給定的行號上查詢包含模式的行
          x,/pattern/   通過行號和模式查詢匹配行
          x,y!       查詢不包含指定行號x和y的行
      (5)基本sed編輯命令
            p   列印匹配行
            d   刪除匹配行
            =   顯示檔案行號
            a/   在定位行號後附加新文本資訊
            i/   在定位行號後插入新文本資訊
            c/   用新文本替換定位文本
            s     使用替換模式替換相應模式
            r     從另一個檔案中讀檔案
            w   寫文本到一個檔案
            q     第一個模式比對完成後推出或立即退出
            l     顯示與八禁止ASCII代碼等價的控制字元
            {}   在定位行執行的命令組
            n     從另一個檔案中讀文本下一行,並附加在下一行
            g     將模式2粘貼到/pattern n/
            y     傳送字元
    (6)舉例說明:
          sed -n '2p' test.txt 列印第二行的資訊(注意:-n是不列印不匹配的資訊,若沒加-n,則列印檔案的所有資訊而不是匹配資訊)
          sed -n '1,4p' test.txt 列印第一行到第四行的資訊
          sed -n '/los/p' test.txt模式比對los,並列印出來
          sed -n '2,/los/p' test.txt 從第二行開始。。知道匹配第一個los
          sed -n '/^$/p' test.txt 匹配空行
          sed -n -e '/^$/p' -e '/^$/=' test.txt 列印空行及行號
          sed -n '/good/a/morning' test.txt 在匹配到的good後面附加morning
          sed -n '/good/i/morning' test.txt 在匹配到的good前面插入morning
          sed -n '/good/c/morning' test.txt 將匹配到的good替換成morning
          sed '1,2d' test.txt 刪除第1和2行
          sed 's/good/good morning/g' test.txt 匹配good並替換成goodmorning
          send 's/good/& hello /p' test.txt 匹配到good就在其後面加上hello
          send 's/good/ hello &/p' test.txt 匹配到good就在其前面加上hello
         
6.合并與分割(sort,uniq,join,cut,paste,split)
    (1)sot命令
        sort [options] files 許多不同的域按不同的列順序分類
          -c 測試檔案是否已經分類
          -m 合并兩個分類檔案
          -u 刪除所有複製行
          -o 儲存sort結果的輸出檔案名
          -t 域分隔字元,用非空格或tab開始分類
          +n :n 為域號,使用此域號開始分類
          -n 指定分類是域上的數字分類項
          -r 比較求逆
        sort -c test.txt 測試檔案是否分類過
        sort -u test.txt 排序併合並一樣的行
        sort -r test.txt 以相反的順序排列
        sort -t "/" +2 test.txt 以"/"分隔,第二個域開始分類
      (2)uniq命令
          uniq [options ] files 從一個文字檔中去除或禁止重複行
          -u 只顯示不重複行
          -d 只顯示有重複資料行,每種重複行只顯示其中一行
          -c 列印每一重複行出現次數
          -f :n為數字,前n個域被忽略
          uniq -f 2 test.txt 忽略前2個域
      (3)join 命令
          join [options] file1 file2 用來將來自兩個分類文字檔的行連在一起
          -an,n為一數字,用於串連時從檔案n中顯示不匹配行
          -onm ,串連域,n為檔案號,m為域號
          -jnm,n為檔案號,m為域號,使用其他域作串連域
          -t ,域分隔字元。用來設定非空格或tab鍵的域分隔字元。
        (4)split命令
          split -output_file_size intput_filename output_filename
          用來將大檔案分割成小檔案。
            -b n,每個分割檔案的大小n
            -C n,每個分割檔案一行最多n位元組
            -l n,每個分割檔案的行數
            -n,同-l n
            split -10 test.txt 將test.txt分割成10行的小檔案
        (5)cut 命令
          cut -c n1-n2 filename 顯示每行從開頭算起 n1 到 n2 的文字。
          cut -c 3-5 test.txt 顯示test.txt中每行從第3到第5個字元

-------------------------------------------------------------------------結束

 

相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.