產生對抗網路 Generative Adversarial Networks

標籤：net   src   model   bsp   之間   分類器   visible   神經網路   輸出   

轉自：https://zhuanlan.zhihu.com/p/26499443

 

產生對抗網路GAN是由蒙特利爾大學Ian Goodfellow教授和他的學生在2014年提出的機器學習架構。

要全面理解產生對抗網路，首先要理解的概念是監督式學習和非監督式學習。監督式學習是指基於大量帶有標籤的訓練集與測試集的機器學習過程，比如監督式圖片分類器需要一系列圖片和對應的標籤（“貓”，“狗”…），而非監督式學習則不需要這麼多額外的工作，它們可以自己從錯誤中進行學習，並降低未來出錯的機率。監督式學習的缺點就是需要大量標籤樣本，這非常耗時耗力。非監督式學習雖然沒有這個問題，但準確率往往更低。自然而然地希望能夠通過提升非監督式學習的效能，從而減少對監督式學習的依賴。GAN可以說是對於非監督式學習的一種提升。

第二個需要理解的概念是“產生模型”, 如所示產生圖片模型的概念。這類模型能夠通過輸入的樣本產生可能的輸出。舉個例子，一個產生模型可以通過視頻的某一幀預測出下一幀的輸出。另一個例子是搜尋引擎，在你輸入的同時，搜尋引擎已經在推斷你可能搜尋的內容了。

 

基於上面這兩個概念就可以設計產生對抗網路GAN了。相比於傳統的神經網路模型，GAN是一種全新的非監督式的架構（如所示）。GAN包括了兩套獨立的網路，兩者之間作為互相對抗的目標。第一套網路是我們需要訓練的分類器（中的D），用來分辨是否是真實資料還是虛假資料；第二套網路是產生器（中的G），產生類似於真實樣本的隨機樣本，並將其作為假樣本。

詳細說明：

D作為一個圖片分類器，對於一系列圖片區分不同的動物。產生器G的目標是繪製出非常接近的偽造圖片來欺騙D，做法是選取訓練資料潛在空間中的元素進行組合，並加入隨機噪音，例如在這裡可以選取一個貓的圖片，然後給貓加上第三隻眼睛，以此作為假資料。

在訓練過程中，D會接收真資料和G產生的假資料，它的任務是判斷圖片是屬於真資料的還是假資料的。對於最後輸出的結果，可以同時對兩方的參數進行調優。如果D判斷正確，那就需要調整G的參數從而使得產生的假資料更為逼真；如果D判斷錯誤，則需調節D的參數，避免下次類似判斷出錯。訓練會一直持續到兩者進入到一個均衡和諧的狀態。

訓練後的產物是一個品質較高的自動產生器和一個判斷能力較強強的分類器。前者可以用於機器創作（自動畫出“貓”“狗”），而後者則可以用來機器分類（自動判斷“貓”“狗”）。

最後這裡給出一個產生對抗網路的列表。

 

參考資料

[1] https://www.linkedin.com/pulse/gans-one-hottest-topics-machine-learning-al-gharakhanian

[2] Generative Models

[3] 深度 | 一篇文章帶你進入無監督學習：從基本概念到四種實現模型（附論文）

 

產生對抗網路 Generative Adversarial Networks