人工智慧基礎概念_深度學習

1.背景

人工智慧涉及的內容非常廣泛，從數學到電腦科學，有很多的基礎知識需要儲備，之前打算閱讀一些人工智慧方面的書籍，總感覺比較吃力，這裡會將一些人工智慧方面的基礎知識做一個總結梳理。

2.基礎概念

1）人工智慧

人工智慧是電腦科學的一個分支，它企圖瞭解智能的實質，並生產出一種新的能以人類智能相似的方式做出反應的智能機器，該領域的研究包括機器人、語言識別、Image Recognition、自然語言處理和專家系統等。人工智慧研究的一個主要目標是使機器能夠勝任一些通常需要人類智能才能完成的複雜工作，比如語音辨識、Image Recognition，甚至象棋、圍棋等。人工智慧最近這幾年發展非常迅速，Google的人工智慧機器人AlphaGo輕鬆擊敗人類九段圍棋高手，而且Google開源了其人工智慧平台。像Fackbook，IBM等科技公司紛紛大力發展人工智慧領域在自動駕駛、Image Recognition、語音辨識等領域。

2）人工神經網路

人工智慧的實現，很大一部分是基於人工神經網路。人工神經網路（Artificial Neural Networks，簡寫為ANNs）也簡稱為神經網路（NNs），它是一種模仿動物神經網路行為特徵，進行分布式並行資訊處理的演算法數學模型。這種網路依靠系統的複雜程度，通過調整內部大量節點之間相互串連的關係，從而達到處理資訊的目的。人工神經網路系統是 20 世紀 40 年代後出現的。它是由眾多的神經元可調的串連權值串連而成，具有大規模平行處理、分布式信 息儲存、良好的自組織自學習能力等特點。誤差反向傳播演算法，是人工神經網路中的一種監督式的學習演算法。BP 神經網路演算法在理 論上可以逼近任意函數，基本的結構由非線性變化單元組成，具有很強的非線性映射能力。而且網路的中介層數、各層的處理單元數及網路的學習係數等參數可根據具體情況設定，靈活性很大，在最佳化、訊號處理與模式識別、智能控制、故障診斷等許 多領域都有著廣泛的應用前景。

3）BP神經網路

BP（Back Propagation）神經網路是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆傳播演算法訓練的多層前饋網路，是目前應用最廣泛的神經網路模型之一。BP網路能學習和存貯大量的輸入-輸出模式映射關係，而無需事前揭示描述這種映射關係的數學方程。它的學習規則是使用梯度下降法，通過反向傳播來不斷調整網路的權值和閾值，使網路的誤差平方和最小。BP神經網路模型拓撲結構包括輸入層（input）、隱層(hidden layer)和輸出層(output layer)。

4）梯度下降法

梯度下降法是一個最佳化演算法，通常也稱為最速下降法。最速下降法是求解無約束最佳化問題最簡單和最古老的方法之一，雖然現在已經不具有實用性，但是許多有效演算法都是以它為基礎進行改進和修正而得到的。最速下降法是用負梯度方向為搜尋方向的，最速下降法越接近目標值，步長越小，前進越慢。

函數的梯度是一個函數變化的速率，這裡的負梯度方向搜尋即向著梯度越來越小的方向搜尋，這裡涉及到一些高等資料的基礎知識，這裡有一篇部落格介紹得比較詳細：

http://deepfuture.iteye.com/blog/1593259

5）卷積神經網路

卷積神經網路是人工神經網路的一種，已成為當前語音分析和Image Recognition領域的研究熱點。它的權值共用網路結構使之更類似於生物神經網路，降低了網路模型的複雜度，減少了權值的數量。該優點在網路的輸入是多維映像時表現的更為明顯，使映像可以直接作為網路的輸入，避免了傳統識別演算法中複雜的特徵提取和資料重建過程。卷積網路是為識別2D 圖形而特殊設計的一個多層感知器，這種網路結構對平移、比例縮放、傾斜或者共他形式的變形具有高度不變性。

卷積神經網路是一種特殊的深層的神經網路模型，它的特殊性體現在兩個方面，一方面它的神經元間的串連是非全串連的， 另一方面同一層中某些神經元之間的串連的權重是共用的（即相同的）。它的非全串連和權值共用的網路結構使之更類似於生物 神經網路，降低了網路模型的複雜度（對於很難學習的深層結構來說，這是非常重要的），減少了權值的數量。

回想一下BP神經網路。BP網路每一層節點是一個線性一維排列狀態，層與層的網路節點之間是全串連的。這樣設想一下，如果BP網路中層與層之間的節點串連不再是全串連，而是局部串連的。這樣，就是一種最簡單的一維卷積網路。如果我們把上述這個思路擴充到二維，這就是我們在大多數參考資料上看到的卷積神經網路。

6）機器學習

機器學習(Machine Learning, ML)是一門多領域交叉學科，涉及機率論、統計學、逼近論、凸分析、演算法複雜度理論等多門學科。專門研究電腦怎樣類比或實現人類的學習行為，以擷取新的知識或技能，重新組織已有的知識結構使之不斷改善自身的效能。它是人工智慧的核心，是使電腦具有智能的根本途徑，其應用遍及人工智慧的各個領域，它主要使用歸納、綜合而不是演繹。

7）深度學習

深度學習（英語：deep learning）是機器學習的一個分支，它基於試圖使用包含複雜結構或由多重非線性變換構成的多個處理層對資料進行高層抽象的一系列演算法。 深度學習是機器學習中表徵學習（英語：learning representation）方法的一類。一個觀測值（例如一幅映像）可以使用多種方式來表示，如每個像素強度值的向量，或者更抽象地表示成一系列邊、特定形狀的地區等。而使用某些特定的表示方法更加容易地從執行個體中學習任務（例如，Face Service或面部表情識別）。深度學習的好處之一是將用非監督式或半監督式（英語：Semi-supervised learning）的特徵學習（英語：Feature learning）和分層特徵提取的高效演算法來替代手工擷取特徵（英語：Feature (machine learning)）。

3.總結

相關學習資料：

1)深度學習筆記整理

http://blog.csdn.net/zouxy09/article/details/8775360

2)深度學習

http://blog.csdn.net/abcjennifer/article/details/7826917

3)開源機器學習庫

http://www.open-open.com/lib/view/open1364432241437.html