TensorFlow實戰Google深度學習架構(一)_深度學習

第一章  深度學習簡介

1.    人工有時候無法很好的抽取實體中的特徵，那麼是否有自動的方式。是的，深度學習解決的核心問題之一就是自動的將簡單的特徵合成更加複雜的特徵，使用這些組合特徵解決問題。

2.    深度學習是機器學習的一個分支，它除了可以學習特徵和任務之間的關聯以外，還能自動從簡單特徵中提取更加複雜的特徵。

3.    深度學習領域主要關注如何搭建智能的電腦系統，解決人工智慧中遇到的問題。計算神經學主要關注如何建立更準確的模型來類比人腦的工作。

4.    FrankRosenblatt教授在1958年提出了感知機模型（perceptron），感知機是首個可以根據範例資料來學習特徵權重的模型。但是感知機只能解決線性可分問題，無法解決異或問題。（Perceptrons：an Introductionto Computational Geometry）

5.    分布式知識表達：核心思想是現實世界中的知識和概念應該通過多個神經元的提出來表達，而模型中的每一個神經元也應該參與表達多個概念

6.    資料集 1.    映像資料集ImageNet 2.    Face Service資料集LFW 3.    手寫體數字識別資料集MNIST 4.    SVHV資料集（斯坦福大學） 5.    TIMIT資料集 6.    語料庫：WordNet，ConceptNet，FrameNet（描述自然語言中單詞之間的關係） 7.    GloVe（斯坦福開源的單詞向量） 8.    SentimentTreebank資料集（斯坦福）

7.    深度學習演算法AlexNet

8.    映像分類比賽 ILSVRC

9.    單詞向量將每一個單詞描述成一個相對維度較低的向量，對於相近的單詞，其對應的單詞向量在空間的距離也應該較近。於是單詞詞義上的相似性可以通過空間中的距離來描述。在單詞向量中，已經隱含的表達了性別的概念。

10. AlphaGo主要由三部分組成：蒙特卡羅樹搜尋（MonteCarlo tree Search，MCTS），估值網路（valuenetwork），走棋網路（policy network）。蒙特卡羅樹搜尋實現了對不同落子點的搜尋，它會根據估值網路和走棋網路對落子後局勢的評判來更加智能的尋找最佳落子點。