機器學習基石第三講筆記

標籤：io   ar   使用   for   strong   on   資料   問題   bs   

第三講介紹了不同類型的機器學習問題，根據4個方面劃分：輸出空間，標籤，方式，輸入空間。

1. 根據輸出空間y不同劃分：通過變換y的種類，可得到不同的機器學習問題

　　（1）y = {+1, -1}：二元分類問題，類似於做是非題，機器學習的基礎。

　　（2）y = {0, 1, 2, ..., k}：k元分類問題，類似於做單選題。

　　（3）y = R：迴歸分析。

　　（4）y = structures：structured learning，給定一段序列，判斷序列的各個部分屬於哪種結構。比如，輸入一個句子，判斷句子裡每個詞語的詞性；輸入一段蛋白質序列，判斷序列各部分屬於哪種結構域。

2. 根據所用標籤不同劃分：

　　（1）supervised：所有輸入的資料xn都有相應的標籤yn，類似於老師給出了答案。

　　（2）unsupervised：輸入的資料沒有標籤，對應於clustering，類似於老師不給答案。

　　（3）semi-supervised：只有部分資料有標籤yn，當給所有資料標上標籤所需代價很大時使用。

　　（4）reinforcement：用goodness來提示標籤，當沒有明確的標籤可以使用時使用。比如，一個廣告系統根據客戶以及廣告的點擊數來確定某個廣告的好壞。

3. 根據所用學習方式不同劃分：

　　（1）batch learning：給機器一批已知的資料用於學習。

　　（2）online learning：從不斷接收到的一筆一筆資料中學習。比如，垃圾郵件過濾器。

　　（3）active learning：從資料中提出xn，詢問xn對應的yn，用於取得標籤很貴的場合，用很少的標籤就能完成學習。

4. 根據輸入空間不同劃分：從不同的input feature，找出最合適的，往往是機器學習成功的關鍵

　　（1）Concrete features: each dimension of x represents ‘sophisticated physical meaning‘, often including ‘human intelligence‘ on the learning task。

　　（2）Raw features: ‘simple physical meaning‘; thus more difficult for ML than concrete features; often need human or machines to convert to concrete ones。

　　（3）Abstract features: ‘no physical meaning‘; thus even more difficult for ML。

機器學習基石第三講筆記