CUDA硬體實現分析(一)安營紮寨---GPU的革命

來源:互聯網
上載者:User

序言:有個不會寫電腦程式的朋友看了blog,問我,這個GPU也能當故事寫嗎?我覺得或許GPU真的算是一場革命吧,他的發展或許在醞釀中,不過到08年底,09年初,一定會有一場轟轟烈烈的競爭。那個時候或許從OS層面都會給人帶來震撼。如果把CPU的多core看成由幾個特種兵組成的,每個特種兵都手裡面都拿著8杆槍(SSE)。那麼GPU可以看成農民起義……一上來就是成百上千的人,雖然單兵作戰能力比不上CPU的單個core,但是畢竟人數眾多。就現在GPU的效能,在並行運算上如果不考慮double硬體的成本,已經早早超過CPU的並行運算能力。這或許就是一場革命,這次革命不知是簡簡單單的GPU和CPU的轉變,而是並行演算法和串列演算法的競爭。並行演算法雖然研究到現在已經有很多年,但是真正的實際運用,離我們普通福士還是差很遠。但是GPU,並行計算的出現,一下子把我們和並行計算的距離拉近了好多。現在在學校裡面學習電腦的時候都是從串列演算法開始,養成了很多固定的串列思維。當遇到問題並行劃分的時候,就還帶著串列的思想,那就不好了:)

本文:前面我們已經說到線程的一些概念,但是這些概念都是軟環節的。我們常常會聽到某某單位說他們的軟硬體設定如何如何的好。軟體再好,每個士兵都是可造之才,但是如果硬體條件跟不上,也沒他們的勇武之地。就像國內做過一些跳槽原因的統計,很多人已經跳槽都是為了高工資,但實際統計結果表明,很多人都覺得在以前那個公司裡面學不到東西,或者說得不到發揮自己長處的地方。那就得看公司有沒有這樣的機會讓你發揮你的能力了。看到這裡,扯遠了~很多人都看得不耐煩了……書接上回《CUDA 線程執行模型分析(二)大軍未動糧草先行------GPU的革命》。已經講到CUDA線上程模型是一個什麼樣子,經過幾天的吸收,也應該在腦子裡面有一些印象了。但是你會問一個問題,我們是不是可以開無數個線程來執行啦?或許招兵的人都想找到很多很多的人,但是你得也考慮一下你的糧食有多少,軍營有多大。在這麼我們得討論一下現在的支援CUDA的nvidia的顯卡現在的硬體情況。

空洞的講解或許還是沒怎麼又說服力,下面以G80為例子。

1. G80裡面有16個Multiprocessor.

2. 每個Multiprocessor都有一組(G80裡面是8個)32位的Processor(每個Processor都是SIMD架構,什麼叫SIMD架構:軍訓的時候,大家都到了食堂,不是像在學校裡面,每個人那自己的碗筷就三三倆倆的去吃飯,那可要講究紀律,啥叫紀律,一群人站在桌子面前,連長沒發話,誰也不敢坐下來……連長一聲令下:“坐下”。所有的人才按照敢坐下來,也是同時坐下來- -!要是誰沒有同步坐下來,那就慘了- -!再來一次,一定要是同步坐下去的,都能聽到聲的,咵!恨不得把板凳給坐碎了------還是部隊的東西結實,兄弟們怎麼坐到軍訓結束只有坐壞屁股的,沒有聽說凳子坐壞的- -!所以啊,愛惜公物就是愛惜自己。記住了吧,這就是SIMD:Single Instruction Multiple Data 。 )還有共用的Instruction Unit(這玩兒就不用翻譯是啥了吧~看SIMD,自己理解去)。在G80裡面有兩個SFU模組。

3. 每一個刻度內,按照warp(這玩兒咋翻譯啦?就理解為啟動並執行時候,一個block裡面一起啟動並執行thread,例如block裡面有512個thread,但是每次只有32個thread在運行,那麼這32個thread就是一個啟動並執行warp組- -! 還好不是rap- -!俺就真沒法解釋了)

4. 每一個warp裡麵包含的thread數量是有限的,現在的規定是32個。將來不知道會不會有變化?不知道,這個只有CUDA開發人員知道了。

我們還是按照我們的既定方式學習吧~看圖說話- -!接下來又是一張圖:

相關文章

E-Commerce Solutions

Leverage the same tools powering the Alibaba Ecosystem

Learn more >

Apsara Conference 2019

The Rise of Data Intelligence, September 25th - 27th, Hangzhou, China

Learn more >

Alibaba Cloud Free Trial

Learn and experience the power of Alibaba Cloud with a free trial worth $300-1200 USD

Learn more >

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。