如果你有一個4.2GB的CSV檔案,裡面有超過1200萬條記錄,每條記錄都有50列。現在你要做的是把其中某一列的值全加起來。你怎麼辦?
這是我最近看到的一篇文章的開頭部分。文章介紹的是如何使用unix命令來分析大體積檔案的文章。像我這樣一個基本上都在Windows平台上開發的程式員,對他提出的這樣一個問題,首先出現在腦子裡的就是記憶體溢出、CPU達到100%、跑一個晚上。而對於一個Linux/unix高手來說,這真是小菜一碟,正如文章中介紹的方法,一行命令就完成了這個任務。
(假設檔案名稱叫做data.csv,行資料用豎線分割,我們需要總計其中的第四列。)
| cat data.csv | awk -F “|” ‘{ sum += $4 } END { printf “%.2f\n”, sum }’ |
簡潔乾淨,而且裡面的{ sum += $4 }很有閉包的味道。讓我對Linux的嚮往又加深了一層。
我寫這篇部落格的目的並不是抒發對Linux的感情的,而是重點講一下發生在這篇文章評論裡的事情。這篇文章吸引了不少Linux愛好者的評論,而且都是Liunx高手,僅僅是第一條評論,看了後就讓我驚訝的合不上嘴。
這位叫做California Lotto的網名的評論是:
如果你認為自己是一個Linux命令列高手,那恭喜你贏得今天的“最沒用的Cat用法”大獎。你應該這樣寫這個命令:
awk -F "|" '{ sum += $4 } END { printf "%.2f\n", sum }' < data.csv
的確,cat在這裡似乎是沒必要的。我首先是佩服,可之後馬上感覺這個人可真討厭,賣弄。雖然我不喜歡他無視作者寫這片好博文的辛苦,但作為外行人,他和作者一樣都是我高不可及的。
可是當我讀第二條評論時,事情出現了戲劇性的變化,這第二條評論明顯是真對第一條評論的:
如果你認為自己是一個Linux命令列高手,那恭喜你贏得今天的“最沒用的重新導向用法”獎。你應該這樣寫這個命令:
awk -F "|" '{ sum += $4 } END { printf "%.2f\n", sum }' data.csv
正所謂強中自有強中手,一山更比一山高。我突然意識到,其實沒必要在這裡比誰比誰更強,在這個浩瀚的互連網裡,永遠都會有比你在某方法更出眾的人。這裡重要的是探討和參與。通過這種探討,不僅豐富了你我的知識,而且對問題的解決方案有了更豐富的認識。正像接下來的評論裡繼續指出,命令列這的重新導向符放在什麼地方都可以,寫成這樣也是好用的:
| <data.csv awk -F “|” ‘{ sum += $4 } END { printf “%.2f\n”, sum }’ |
神奇吧!而接下來繼續有人指出,作者在實驗時寫成這樣:
| head -1 data.psv | awk -F’|’ ‘{print NF}’ |
實驗成功後直接把head改成cat是順理成章的事。
不管怎樣,這是一篇好文章,這些人都是高手,都是我的老師,不僅教我編程知識,更教我如何做人。