標籤:原子操作 斷線 並且 調用 ges 還需要 運行 應用 包括
http://www.importnew.com/24082.html volatile關鍵字
http://www.importnew.com/16142.html ConcurrentHashMap原理分析
Java記憶體模型:
在Java Memory Model中,Memory分為兩類,main memory和working memory,main memory為所有線程共用,working memory中存放的是線程所需要的變數的拷貝(線程要對main memory中的內容進行操作的話,首先需要拷貝到自己的working memory,一般為了速度,working memory一般是在cpu的cache中的)。volatile的變數在被操作的時候不會產生working memory的拷貝,而是直接操作main memory,當然volatile雖然解決了變數的可見度問題,但沒有解決變數操作的原子性的問題,這個還需要synchronized或者CAS相關操作配合進行。
Java記憶體模型規定了所有的變數都儲存在主記憶體中。每條線程中還有自己的工作記憶體,線程的工作記憶體中儲存了被該線程所使用到的變數(這些變數是從主記憶體中拷貝而來)。線程對變數的所有操作(讀取,賦值)都必須在工作記憶體中進行。不同線程之間也無法直接存取對方工作記憶體中的變數,線程間變數值的傳遞均需要通過主記憶體來完成。
並發編程的三大概念:原子性,有序性,可見度。
可見度
也就說假設一個對象中有一個變數i,那麼i是儲存在main memory中的,當某一個線程要操作i的時候,首先需要從main memory中將i 載入到這個線程的working memory中,這個時候working memory中就有了一個i的拷貝,這個時候此線程對i的修改都在其working memory中,直到其將i從working memory寫回到main memory中,新的i的值才能被其他線程所讀取。從某個意義上說,可見度保證了各個線程的working memory的資料的一致性。 可見度遵循下面一些規則:
- 當一個線程運行結束的時候,所有寫的變數都會被flush回main memory中。
- 當一個線程第一次讀取某個變數的時候,會從main memory中讀取最新的。
- volatile的變數會被立刻寫到main memory中的,在jsr133中,對volatile的語義進行增強,後面會提到
- 當一個線程釋放鎖後,所有的變數的變化都會flush到main memory中,然後一個使用了這個相同的同步鎖的進程,將會重新載入所有的使用到的變數,這樣就保證了可見度。
原子性
還拿上面的例子來說,原子性就是當某一個線程修改i的值的時候,從取出i到將新的i的值寫給i之間不能有其他線程對i進行任何操作。也就是說保證某個線程對i的操作是原子性的,這樣就可以避免資料髒讀。 通過鎖機制或者CAS(Compare And Set 需要硬體CPU的支援)操作可以保證操作的原子性。
有序性
假設在main memory中存在兩個變數i和j,初始值都為0,在某個線程A的代碼中依次對i和j進行自增操作(i,j的操作不相互依賴)
由於,所以i,j修改操作的順序可能會被重新排序。那麼修改後的ij寫到main memory中的時候,順序可能就不是按照i,j的順序了,這就是所謂的reordering,在單線程的情況下,當線程A運行結束的後i,j的值都加1了,線上程自己看來就好像是線程按照代碼的順序進行了運行(這些操作都是基於as-if-serial語義的),即使在實際運行過程中,i,j的自增可能被重新排序了,當然電腦也不能幫你亂排序,存在上下邏輯關聯的運行順序肯定還是不會變的。但是在多線程環境下,問題就不一樣了,比如另一個線程B的代碼如下
| 123 |
if(j==1) { System.out.println(i);} |
按照我們的思維方式,當j為1的時候那麼i肯定也是1,因為代碼中i在j之前就自增了,但實際的情況有可能當j為1的時候i還是為0。這就是reordering產生的不好的後果,所以我們在某些時候為了避免這樣的問題需要一些必要的策略,以保證多個線程一起工作的時候也存在一定的次序。JMM提供了happens-before 的排序策略。這樣我們可以得到多線程環境下的as-if-serial語義。 這裡不對happens-before進行詳細解釋了,詳細的請看這裡http://www.ibm.com/developerworks/cn/java/j-jtp03304/,這裡主要講一下volatile在新的java記憶體模型下的變化,在jsr133之前,下面的代碼可能會出現問題
| 123456789101112 |
Map configOptions;char[] configText;volatile boolean initialized = false;// In Thread AconfigOptions = new HashMap();configText = readConfigFile(fileName);processConfigOptions(configText, configOptions);initialized = true;// In Thread Bwhile (!initialized) sleep();// use configOptions |
jsr133之前,雖然對 volatile 變數的讀和寫不能與對其他 volatile 變數的讀和寫一起重新排序,但是它們仍然可以與對 nonvolatile 變數的讀寫一起重新排序,所以上面的Thread A的操作,就可能initialized變成true的時候,而configOptions還沒有被初始化,所以initialized先於configOptions被線程B看到,就產生問題了。
JSR 133 Expert Group 決定讓 volatile 讀寫不能與其他記憶體操作一起重新排序,新的記憶體模型下,如果當線程 A 寫入 volatile 變數 V 而線程 B 讀取 V 時,那麼在寫入 V 時,A 可見的所有變數值現在都可以保證對 B 是可見的。
結果就是作用更大的 volatile 語義,代價是訪問 volatile 欄位時會對效能產生更大的影響。這一點在ConcurrentHashMap中的統計某個segment元素個數的count變數中使用到了。
深入理解volatile關鍵字1.volatile保證可見度
一旦一個共用變數(類的成員變數、類的靜態成員變數)被volatile修飾之後,那麼就具備了兩層語義:
1)保證了不同線程對這個變數進行操作時的可見度,即一個線程修改了某個變數的值,這新值對其他線程來說是立即可見的。
2)禁止進行指令重排序。
先看一段代碼,假如線程1先執行,線程2後執行:
| 12345678 |
//線程1boolean stop = false;while(!stop){ doSomething();} //線程2stop = true; |
這段代碼是很典型的一段代碼,很多人在中斷線程時可能都會採用這種標記辦法。但是事實上,這段代碼會完全運行正確嗎?即一定會將線程中斷嗎?不一定,也許在大多數時候,這個代碼能夠把線程中斷,但是也有可能會導致無法中斷線程(雖然這個可能性很小,但是只要一旦發生這種情況就會造成死迴圈了)。
下面解釋一下這段代碼為何有可能導致無法中斷線程。在前面已經解釋過,每個線程在運行過程中都有自己的工作記憶體,那麼線程1在啟動並執行時候,會將stop變數的值拷貝一份放在自己的工作記憶體當中。
那麼當線程2更改了stop變數的值之後,但是還沒來得及寫入主存當中,線程2轉去做其他事情了,那麼線程1由於不知道線程2對stop變數的更改,因此還會一直迴圈下去。
但是用volatile修飾之後就變得不一樣了:
第一:使用volatile關鍵字會強制將修改的值立即寫入主存;
第二:使用volatile關鍵字的話,當線程2進行修改時,會導致線程1的工作記憶體中緩衝變數stop的緩衝行無效(反映到硬體層的話,就是CPU的L1或者L2緩衝中對應的緩衝行無效);
第三:由於線程1的工作記憶體中緩衝變數stop的緩衝行無效,所以線程1再次讀取變數stop的值時會去主存讀取。
那麼線上程2修改stop值時(當然這裡包括2個操作,修改線程2工作記憶體中的值,然後將修改後的值寫入記憶體),會使得線程1的工作記憶體中緩衝變數stop的緩衝行無效,然後線程1讀取時,發現自己的緩衝行無效,它會等待緩衝行對應的主存地址被更新之後,然後去對應的主存讀取最新的值。
那麼線程1讀取到的就是最新的正確的值。
2.volatile不能確保原子性
下面看一個例子:
| 1234567891011121314151617181920212223 |
public class Test { public volatile int inc = 0; public void increase() { inc++; } public static void main(String[] args) { final Test test = new Test(); for(int i=0;i<10;i++){ new Thread(){ public void run() { for(int j=0;j<1000;j++) test.increase(); }; }.start(); } while(Thread.activeCount()>1) //保證前面的線程都執行完 Thread.yield(); System.out.println(test.inc); }} |
大家想一下這段程式的輸出結果是多少?也許有些朋友認為是10000。但是事實上運行它會發現每次運行結果都不一致,都是一個小於10000的數字。
可能有的朋友就會有疑問,不對啊,上面是對變數inc進行自增操作,由於volatile保證了可見度,那麼在每個線程中對inc自增完之後,在其他線程中都能看到修改後的值啊,所以有10個線程分別進行了1000次操作,那麼最終inc的值應該是1000*10=10000。
這裡面就有一個誤區了,volatile關鍵字能保證可見度沒有錯,但是上面的程式錯在沒能保證原子性。可見度只能保證每次讀取的是最新的值,但是volatile沒辦法保證對變數的操作的原子性。
在前面已經提到過,自增操作是不具備原子性的,它包括讀取變數的原始值、進行加1操作、寫入工作記憶體。那麼就是說自增操作的三個子操作可能會分割開執行,就有可能導致下面這種情況出現:
假如某個時刻變數inc的值為10,
線程1對變數進行自增操作,線程1先讀取了變數inc的原始值,然後線程1被阻塞了;
然後線程2對變數進行自增操作,線程2也去讀取變數inc的原始值,由於線程1隻是對變數inc進行讀取操作,而沒有對變數進行修改操作,所以不會導致線程2的工作記憶體中緩衝變數inc的緩衝行無效,也不會導致主存中的值重新整理,所以線程2會直接去主存讀取inc的值,發現inc的值時10,然後進行加1操作,並把11寫入工作記憶體,最後寫入主存。
然後線程1接著進行加1操作,由於已經讀取了inc的值,注意此時線上程1的工作記憶體中inc的值仍然為10,所以線程1對inc進行加1操作後inc的值為11,然後將11寫入工作記憶體,最後寫入主存。
那麼兩個線程分別進行了一次自增操作後,inc只增加了1。
根源就在這裡,自增操作不是原子性操作,而且volatile也無法保證對變數的任何操作都是原子性的。
解決方案:可以通過synchronized或lock,進行加鎖,來保證操作的原子性。也可以通過AtomicInteger。
在java 1.5的java.util.concurrent.atomic包下提供了一些原子操作類,即對基礎資料型別 (Elementary Data Type)的 自增(加1操作),自減(減1操作)、以及加法操作(加一個數),減法操作(減一個數)進行了封裝,保證這些操作是原子性操作。atomic是利用CAS來實現原子性操作的(Compare And Swap),CAS實際上是利用處理器提供的CMPXCHG指令實現的,而處理器執行CMPXCHG指令是一個原子性操作。
3.volatile保證有序性
在前面提到volatile關鍵字能禁止指令重排序,所以volatile能在一定程度上保證有序性。
volatile關鍵字禁止指令重排序有兩層意思:
1)當程式執行到volatile變數的讀操作或者寫操作時,在其前面的操作的更改肯定全部已經進行,且結果已經對後面的操作可見;在其後面的操作肯定還沒有進行;
2)在進行指令最佳化時,不能將在對volatile變數的讀操作或者寫操作的語句放在其後面執行,也不能把volatile變數後面的語句放到其前面執行。
可能上面說的比較繞,舉個簡單的例子:
| 12345678 |
//x、y為非volatile變數//flag為volatile變數 x = 2; //語句1y = 0; //語句2flag = true; //語句3x = 4; //語句4y = -1; //語句5 |
由於flag變數為volatile變數,那麼在進行指令重排序的過程的時候,不會將語句3放到語句1、語句2前面,也不會講語句3放到語句4、語句5後面。但是要注意語句1和語句2的順序、語句4和語句5的順序是不作任何保證的。
並且volatile關鍵字能保證,執行到語句3時,語句1和語句2必定是執行完畢了的,且語句1和語句2的執行結果對語句3、語句4、語句5是可見的。
那麼我們回到前面舉的一個例子:
| 123456789 |
//線程1:context = loadContext(); //語句1inited = true; //語句2 //線程2:while(!inited ){ sleep()}doSomethingwithconfig(context); |
前面舉這個例子的時候,提到有可能語句2會在語句1之前執行,那麼久可能導致context還沒被初始化,而線程2中就使用未初始化的context去進行操作,導致程式出錯。
這裡如果用volatile關鍵字對inited變數進行修飾,就不會出現這種問題了,因為當執行到語句2時,必定能保證context已經初始化完畢。
volatile的實現原理1.可見度
處理器為了提高處理速度,不直接和記憶體進行通訊,而是將系統記憶體的資料獨到內部緩衝後再進行操作,但操作完後不知什麼時候會寫到記憶體。
如果對聲明了volatile變數進行寫操作時,JVM會向處理器發送一條Lock首碼的指令,將這個變數所在緩衝行的資料寫會到系統記憶體。 這一步確保了如果有其他線程對聲明了volatile變數進行修改,則立即更新主記憶體中資料。
但這時候其他處理器的緩衝還是舊的,所以在多處理器環境下,為了保證各個處理器緩衝一致,每個處理會通過嗅探在匯流排上傳播的資料來檢查 自己的緩衝是否到期,當處理器發現自己緩衝行對應的記憶體位址被修改了,就會將當前處理器的緩衝行設定成無效狀態,當處理器要對這個資料進行修改操作時,會強制重新從系統記憶體把資料讀到處理器緩衝裡。 這一步確保了其他線程獲得的聲明了volatile變數都是從主記憶體中擷取最新的。
2.有序性
Lock首碼指令實際上相當於一個記憶體屏障(也成記憶體柵欄),它確保指令重排序時不會把其後面的指令排到記憶體屏障之前的位置,也不會把前面的指令排到記憶體屏障的後面;即在執行到記憶體屏障這句指令時,在它前面的操作已經全部完成。
volatile的應用情境
synchronized關鍵字是防止多個線程同時執行一段代碼,那麼就會很影響程式執行效率,而volatile關鍵字在某些情況下效能要優於synchronized,但是要注意volatile關鍵字是無法替代synchronized關鍵字的,因為volatile關鍵字無法保證操作的原子性。通常來說,使用volatile必須具備以下2個條件:
1)對變數的寫操作不依賴於當前值
2)該變數沒有包含在具有其他變數的不變式中
下面列舉幾個Java中使用volatile的幾個情境。
①.狀態標記量
| 123456789 |
volatile boolean flag = false; //線程1while(!flag){ doSomething();} //線程2public void setFlag() { flag = true;} |
根據狀態標記,終止線程。
②.單例模式中的double check
| 1234567891011121314151617 |
class Singleton{ private volatile static Singleton instance = null; private Singleton() { } public static Singleton getInstance() { if(instance==null) { synchronized (Singleton.class) { if(instance==null) instance = new Singleton(); } } return instance; }} |
為什麼要使用volatile 修飾instance?
主要在於instance = new Singleton()這句,這並非是一個原子操作,事實上在 JVM 中這句話大概做了下面 3 件事情:
1.給 instance 分配記憶體
2.調用 Singleton 的建構函式來初始化成員變數
3.將instance對象指向分配的記憶體空間(執行完這步 instance 就為非 null 了)。
但是在 JVM 的即時編譯器中存在指令重排序的最佳化。也就是說上面的第二步和第三步的順序是不能保證的,最終的執行順序可能是 1-2-3 也可能是 1-3-2。如果是後者,則在 3 執行完畢、2 未執行之前,被線程二搶佔了,這時 instance 已經是非 null 了(但卻沒有初始化),所以線程二會直接返回 instance,然後使用,然後順理成章地報錯。
Java並發編程與Volatile