linux中面試題之awk的使用詳解

面試題內容：

需求：以"|"為分隔字元，列印第一欄位第一個字元是1，第二個欄位第二個字元是2，第三個欄位第三個字元是3，以此類推；倒數第二個欄位前8個字元是當天日期如“20140610”。

源檔案raw_data.txt：

1|12|a7f865ce-b274-4b23-890c-893c7d1f2198||||2016082055104
3|22|bd166d4f-5222-4d69-a277-deb543db1a9d||||20141117012936|
1|a2af|1135ea2-067a-4d4c-b56f|01442332|308g5dfg|955226r9|2016092037|20150428102737
1|222|1f3f1950-6b0e-4459-a1ee|sad4sadf|adsa5dfd|7746765|2016092002|

$ date +%Y%m%d

20160920

我用Python實現的代碼：

$ ./check_string.py

Matched: 1|a2af|1135ea2-067a-4d4c-b56f|01442332|308g5dfg|955226r9|2016092037|20150428102737

#!/usr/bin/env python

import datetime

def check_item(string):
    item_list = string.split('|')
    for item_id in range(0,len(item_list)):
        try:
            item_sub_list = list(item_list[item_id])
        except IndexError:
            return False

        special_item_id = len(item_list) - 2
        expect_item_sub_value = item_id + 1
        if item_id != special_item_id:
            try:
                if not item_sub_list[item_id] != expect_item_sub_value:
                    return False
            except IndexError:
                return False
        else:
            if not datetime.datetime.now().strftime("%Y%m%d") == ''.join(item_sub_list[0:8]):
                return False

    return True

if __name__=='__main__':
    filename = 'raw_data.txt'

    with open(filename) as fp:
        for line in fp:
            if check_item(line.replace('\n','')):
                print "Matched: {0}".format(line.replace('\n',''))

網友“營運@蘇東”用awk實現的代碼：

$ cat raw_data.txt | awk -F\| 'BEGIN{d=strftime("%Y%m%d")} { i=1;j=NF-1;k=0;while(i<j-1){if ( substr($i,i,1) == i ){k++;}; i++}; if (k==i-1 && substr($j,1,8) == d && substr($NF,NF,1) == NF) {print $0} }'

1|a2af|1135ea2-067a-4d4c-b56f|01442332|308g5dfg|955226r9|2016092037|20150428102737

 

變數名 含義
ARGC 命令列變元個數
ARGV 命令列變元數組
FILENAME 當前輸入檔案名稱
FNR 當前檔案中的記錄號
FS 輸入欄位分隔字元，預設為一個空格
RS 輸入記錄分隔字元
NF 目前記錄裡域個數
NR 到目前為止記錄數
OFS 輸出域分隔字元
ORS 輸出記錄分隔字元

1、awk '/101/'               file 顯示檔案file中包含101的匹配行。
   awk '/101/,/105/'         file
   awk '$1 == 5'             file
   awk '$1 == "CT"'          file 注意必須帶雙引號
   awk '$1 * $2 >100 '       file 
   awk '$2 >5 && $2<=15'     file

2、awk '{print NR,NF,$1,$NF,}' file 顯示檔案file的目前記錄號、域數和每一行的第一個和最後一個域。
   awk '/101/ {print $1,$2 + 10}' file 顯示檔案file的匹配行的第一、二個域加10。
   awk '/101/ {print $1$2}'  file
   awk '/101/ {print $1 $2}' file 顯示檔案file的匹配行的第一、二個域，但顯示時域中間沒有分隔字元。

3、df | awk '$4>1000000 '         通過管道符獲得輸入，如：顯示第4個域滿足條件的行。

4、awk -F "|" '{print $1}'   file 按照新的分隔字元“|”進行操作。
   awk  'BEGIN { FS="[: \t|]" }
   {print $1,$2,$3}'       file 通過設定輸入分隔字元（FS="[: \t|]"）修改輸入分隔字元。

   Sep="|"
   awk -F $Sep '{print $1}'  file 按照環境變數Sep的值做為分隔字元。   
   awk -F '[ :\t|]' '{print $1}' file 按照Regex的值做為分隔字元，這裡代表空格、:、TAB、|同時做為分隔字元。
   awk -F '[][]'    '{print $1}' file 按照Regex的值做為分隔字元，這裡代表[、]

5、awk -f awkfile       file 通過檔案awkfile的內容依次進行控制。
   cat awkfile
/101/{print "\047 Hello! \047"} --遇到匹配行以後列印 ' Hello! '.\047代表單引號。
{print $1,$2}                   --因為沒有模式控制，列印每一行的前兩個域。

6、awk '$1 ~ /101/ {print $1}' file 顯示檔案中第一個域匹配101的行（記錄）。

7、awk   'BEGIN { OFS="%"}
   {print $1,$2}'           file 通過設定輸出分隔字元（OFS="%"）修改輸出格式。

8、awk   'BEGIN { max=100 ;print "max=" max}             BEGIN 表示在處理任意行之前進行的操作。
   {max=($1 >max ?$1:max); print $1,"Now max is "max}' file 取得檔案第一個域的最大值。
   （運算式1?運算式2:運算式3 相當於：
   if (運算式1)
       運算式2
   else
       運算式3
   awk '{print ($1>4 ? "high "$1: "low "$1)}' file

9、awk '$1 * $2 >100 {print $1}' file 顯示檔案中第一個域匹配101的行（記錄）。

10、awk '{$1 == 'Chi' {$3 = 'China'; print}' file 找到匹配行後先將第3個域替換後再顯示該行（記錄）。
    awk '{$7 %= 3; print $7}'  file 將第7域被3除，並將餘數賦給第7域再列印。

11、awk '/tom/ {wage=$2+$3; printf wage}' file 找到匹配行後為變數wage賦值並列印該變數。

12、awk '/tom/ {count++;} 
         END {print "tom was found "count" times"}' file END表示在所有輸入行處理完後進行處理。

13、awk 'gsub(/\$/,"");gsub(/,/,""); cost+=$4;
         END {print "The total is $" cost>"filename"}'    file gsub函數用空串替換$和,再將結果輸出到filename中。
    1 2 3 $1,200.00
    1 2 3 $2,300.00
    1 2 3 $4,000.00

    awk '{gsub(/\$/,"");gsub(/,/,"");
    if ($4>1000&&$4<2000) c1+=$4;
    else if ($4>2000&&$4<3000) c2+=$4;
    else if ($4>3000&&$4<4000) c3+=$4;
    else c4+=$4; }
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file
    通過if和else if完成條件陳述式

    awk '{gsub(/\$/,"");gsub(/,/,"");
    if ($4>3000&&$4<4000) exit;
    else c4+=$4; }
    END {printf  "c1=[%d];c2=[%d];c3=[%d];c4=[%d]\n",c1,c2,c3,c4}"' file
    通過exit在某條件時退出，但是仍執行END操作。
    awk '{gsub(/\$/,"");gsub(/,/,"");
    if ($4>3000) next;
    else c4+=$4; }
    END {printf  "c4=[%d]\n",c4}"' file
    通過next在某條件時跳過該行，對下一行執行操作。

14、awk '{ print FILENAME,$0 }' file1 file2 file3>fileall 把file1、file2、file3的檔案內容全部寫到fileall中，格式為
    列印檔案並前置檔案名稱。

15、awk ' $1!=previous { close(previous); previous=$1 }   
    {print substr($0,index($0," ") +1)>$1}' fileall 把合并後的檔案重新分拆為3個檔案。並與原檔案一致。

16、awk 'BEGIN {"date"|getline d; print d}'         通過管道把date的執行結果送給getline，並賦給變數d，然後列印。

17、awk 'BEGIN {system("echo \"Input your name:\\c\""); getline d;print "\nYour name is",d,"\b!\n"}'
    通過getline命令互動輸入name，並顯示出來。
    awk 'BEGIN {FS=":"; while(getline< "/etc/passwd" >0) { if($1~"050[0-9]_") print $1}}'
    列印/etc/passwd檔案中使用者名稱包含050x_的使用者名稱。

18、awk '{ i=1;while(i<NF) {print NF,$i;i++}}' file 通過while語句實現迴圈。
    awk '{ for(i=1;i<NF;i++) {print NF,$i}}'   file 通過for語句實現迴圈。    
    type file|awk -F "/" '
    { for(i=1;i<NF;i++)
    { if(i==NF-1) { printf "%s",$i }
    else { printf "%s/",$i } }}'               顯示一個檔案的全路徑。
    用for和if顯示日期
    awk  'BEGIN {
for(j=1;j<=12;j++)
{ flag=0;
  printf "\n%d月份\n",j;
        for(i=1;i<=31;i++)
        {
        if (j==2&&i>28) flag=1;
        if ((j==4||j==6||j==9||j==11)&&i>30) flag=1;
        if (flag==0) {printf "%02d%02d ",j,i}
        }
}
}'

19、在awk中調用系統變數必須用單引號，如果是雙引號，則表示字串
Flag=abcd
awk '{print '$Flag'}'   結果為abcd
awk '{print  "$Flag"}'   結果為$Flag

以上轉自chinaunix，以下是自己的總結：

求和：

    $awk 'BEGIN{total=0}{total+=$4}END{print total}' a.txt   -----對a.txt檔案的第四個域進行求和！

$ awk '/^(no|so)/' test-----列印所有以模式no或so開頭的行。

$ awk '/^[ns]/{print $1}' test-----如果記錄以n或s開頭，就列印這個記錄。

$ awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一個域以兩個數字結束就列印這個記錄。

$ awk '$1 == 100 || $2 < 50' test-----如果第一個或等於100或者第二個域小於50，則列印該行。

$ awk '$1 != 10' test-----如果第一個域不等於10就列印該行。

$ awk '/test/{print $1 + 10}' test-----如果記錄包含Regextest，則第一個域加10並列印出來。

$ awk '{print ($1 > 5 ? "ok "$1: "error"$1)}' test-----如果第一個域大於5則列印問號後面的運算式值，否則列印冒號後面的運算式值。

$ awk '/^root/,/^mysql/' test----列印以Regexroot開頭的記錄到以Regexmysql開頭的記錄範圍內的所有記錄。如果找到一個新的Regexroot開頭的記 錄，則繼續列印直到下一個以Regexmysql開頭的記錄為止，或到檔案末尾。