【Python映像特徵的音樂序列產生】關於小樣本的一些思考

標籤：知識   深度學習   利用   sim   lstm   卷積神經網路   特徵提取   量化   tin   

我之前就注意到，深度學習和音樂結合，尤其是從樂理出發進行結合（而不是純粹的進行音樂產生），是一個尚未被深度挖掘的全新領域。可想而知，這個方向符合我要求的資料肯定是要自己搜集了。

自己搜集的資料，在量上就已經輸了，只是考慮到我們要做的任務並不複雜，準確的說只是一個分類器，再加一個LSTM而已。對於這個分類器，甚至不需要用卷積神經網路，可以使用一些其他的網路；而LSTM的樣本本來就蘊含了很明確的規律，變化並不是很大。

那麼我們就要開始思考，除了一些常規的訓練方法，還有什麼訓練適合小樣本資料嗎？

1、資料擴增技術，例片的亮度改變、加雜訊、翻轉、隨機裁切、縮放等製造出大量樣本。

2、有人使用遊戲來訓練，例如使用GTA裡面的情境來學習自動駕駛，當然這不屬於嚴格的小樣本。

3、使用產生模型，例如GAN來產生大量接近真實的樣本來訓練。蘋果的第一篇AI論文simGAN就是這麼做的。

4、經典的特徵提取演算法，再使用SVM等淺層網路來訓練，需要的資料量就沒有那麼多。

來源：知乎

這幾個思路都算還行，當然還有其他的思路。

5，貝葉斯規劃學習（Bayesian Program Learning，BPL）

以及：

6，利用先驗知識。

 對於1，這是一個可行的辦法，只是我們使用的資料集只是網狀圖片，處理網狀圖片比處理本地圖片要困難。對於2，這個不適合我們的問題。對於3，問題同1.對於4，這是一個很好的解決辦法，我們實際上就是使用了一種廣義的特徵提取演算法（提取了實體，再進行向量化）對於5，看起來是一個很高深的知識……我現在還不是很懂。對於6，這個同樣不是很懂，得問一下師兄師姐才能得到答案。  我個人覺得，對於抽象了圖片特徵，轉化成向量，這樣就已經降低了對樣本集本身的要求。對於網路結構的改進，我期望能盡量避免over-fitting。 

【Python映像特徵的音樂序列產生】關於小樣本的一些思考