機率圖模型（PGM）學習筆記（三）模式判斷與機率圖流

標籤：style   blog   http   color   使用   os   

我們依舊使用“學生網路”作為範例，1。

 

圖1

首先給出因果判斷（Causal Reasoning）的直覺解釋。

能夠算出來

即學生獲得好的推薦信的機率大約是0.5.

但假設我們知道了學生的智商比較低，那麼拿到好推薦信的機率就下降了：

進一步，假設又同一時候知道了考試的難度非常低，那麼他拿到好的推薦信得機率又上升了，甚至還能超過最初的機率：

上述這個過程就是因果判斷，你看它是順著箭頭的方向進行判斷。

 

其次給出信度判斷（Evidential Reasoning）的直覺解釋。2.

圖2

本來已知考試難度高和學生非常聰明的機率分別為0.4和0.3

如今我們忽然知道這個悲劇的同學考試裡得了C等。

那麼如今考試難度高的機率就上升了，學生非常聰明的機率就下降了：

上述這個過程就是信度判斷，你看它是逆著箭頭方向進行判斷的。

 

再次給出交叉因果判斷（Intercausal Reasoning）的直覺解釋，3.

圖3

信度判斷指出，在已知該同學考了C等之後，他非常聰明的機率下降到0.08了，

假設此時我們又知道這次考試非常難，那麼他非常聰明的機率會有一個輕微的上升，到0.11：

交叉因果判斷的特點是Difficulty順著箭頭到了Grade，又逆著箭頭影響到了Intelligence.

 

為什麼會這樣？我們考慮一個最簡單的情況，4.

圖4

一開始能夠看到，X1和X2是全然獨立的，同一時候有若已知Y=1

然而，當我們已知X1=1之後，X2=1的機率下降了：

 

再來看看這個同學考了B是什麼效果，5.

圖5

本來學生非常聰明的機率是0.3，後來知道了他考了B，那麼他非常聰明的機率下降到了0.175.

如今又知道了，這門考試事實上蠻難的。那麼他非常聰明的機率又上升到了0.34，竟然超過了原始的0.3.

 

如今再考慮一個情況：這個同學在SAT測驗中得了A，6.

圖6

這對考試非常難以及學生非常聰明的機率有什麼影響嗎？回到那位考了C的悲劇同學。

這個同學考了C，所以考試非常難的機率為0.63，學生非常聰明的機率降到0.08

如今，忽然又知道了這個同學蠻厲害的，在SAT中考了A

於是，考試非常難的機率達到了0.76，學生非常聰明的機率達到了0.58，兩者都大大超過了他們本來的機率。這是由於，同學的SAT成績為A改變了我們對其智商的認識，從而影響到了在他考了C時，對其考試難度的認識。

 

通過上述直觀分析，我們發現機率圖中的節點是可以相互影響的，以下做詳細分析。7.

圖7

設隨機變數X和Y，在什麼情況下是能夠相互影響的呢？

1.X與Y直接相連時他們能夠相互影響。

比方告訴你考試非常easy，那麼你得分高的機率自然上升。告訴你得了C，那麼考試非常easy的機率就會下降。

 

2.X與Y中間隔了一個W，在串連箭頭方向不變的情況下，X與Y可以相互影響。

比方告訴你這個同學得到了一封不錯的推薦信，那麼考試簡單的機率就上升了。告訴你考試難度非常大，那麼他能得到好推薦信的機率就下降了。

 

3.X與Y之間隔了一個W，假設當中箭頭是指向外的方向，X與Y可以相互影響。

比方同學的SAT成績顯然和他的Grade是相互影響的。這就像一個人每次類比考試都能拿高分，我們自然有理由相信他能力非常強，足以在高考中獲得好成績。

 

4.X與Y之間隔了一個W，假設當中箭頭是指向內的方向，那麼X與Y就不能相互影響了。

比方告訴你考試非常難，但這跟同學的智商有什麼關係呢？反之亦然。

 

總之，假設一條關係鏈中沒有形如的結構，那麼這條關係鏈就能把影響傳遞下去。

 

以上討論的都是我們對中間環節W一無所知的情況。

假設我們知道關於中間環節W的資訊呢，X與Y之間的相互影響是否會因此而發生改變呢？我們用Z集合表示我們知道相關資訊的意思。8.

圖8

分欄左側就是我們上面討論的情況：我們對W一無所知。

右側邊欄是指我們已經知道W的機率了。再來觀測X與Y之間的影響。

 

奇妙的事情出現了：假設我們知道了W的機率，會把之前通暢的關係鏈給打斷了；而把之前阻塞的關係鏈打通了。

詳細地：同學SAT得了A，可是我們已知這個同學智商事實上超級笨，那麼他考試拿高分的機率會由於他SAT的狗屎運而增多嗎？不會的，依據定義，考試成績僅僅與他的智商和考試難度有關，跟他碰巧考好的SAT沒有不論什麼關係。由於我們已經知道他實際上非常笨了，SAT只是是個意外。

而之前阻塞的連結如今卻通了。比方說考試非常難，這和同學智商沒有不論什麼關係，可是假設我知道了考試非常難，同學考了A，那麼我們非常有理由相信，同學應該非常聰明啦。

 

這張圖中，S-I-G-D這條路徑在I不知道、G知道的情況下才幹通暢無阻。

 

Tips：事實上這個結論還應該擴充一下。

已知試卷非常難，不知道考了多少分，可是我們知道這個同學利用這個分數拿到了一封非常好的推薦信，我們就有理由相信，他應該考得不錯，進而相信他應該是個挺聰明的童鞋。

 

總之。假設一條關係鏈中在每一個形如的結構裡，我們知道Xi或者至少知道他的某一個子節點的機率（就像我們儘管不知道Grade，可是我們知道了Letter的機率），那麼這條關係鏈就能把影響傳遞下去。

 

獨立性

獨立性的定義能夠有下面3種描寫敘述：

 

類似地，條件獨立也能夠這麼寫

 

以下直觀感受一下條件獨立性，9

圖9

有2枚硬幣，一僅僅均勻，還有一僅僅不均勻並且又90%的機率能正面朝上。當然，兩枚硬幣外觀是全然一樣的。

 

如今讓你抽出一枚，準備扔2次。

你先扔了第一次，發現正面朝上，那麼能夠相信，第二次還是正面朝上的機率肯定添加了，這樣第二次投硬幣的結果受到了第一次投硬幣的影響。

而我如今告訴你事實上你剛剛投的是均勻硬幣（或者不均勻，無所謂的），那麼你第二次投硬幣的機率和第一次投出來的結果就失去了聯絡。

這就說明了條件有時會使變數之間的相關性喪失。

歡迎參與討論並關注本部落格和微博以及知乎個人首頁，興許內容繼續更新哦~

轉載請您尊重作者的勞動，完整保留上述文字以及本文連結，謝謝您的支援！