啟發學習法演算法簡談（一）

啟發學習法演算法簡談（一）
引言：
解決實際的問題，要建模型，在求解。求解要選擇演算法，只有我們對各種演算法的優缺點都很熟悉後才能根據實際問題選出有效演算法。但是對各種演算法都了如指掌是不現實的，但多知道一些，會使你的選擇集更大，找出最好演算法的機率越大。現在研一，要開題了些點文獻綜述，願與大家分享。

大自然是神奇的，它造就了很多巧妙的手段和運行機制。受大自然的啟發，人們從大自然的運行規律中找到了許多解決實際問題的方法。對於那些受大自然的運行規律或者面向具體問題的經驗、規則啟發出來的方法，人們常常稱之為啟發學習法演算法（Heuristic Algorithm）。現在的啟發學習法演算法也不是全部來自然的規律，也有來自人類積累的工作經驗。

啟發學習法演算法的發展：
啟發學習法演算法的計算量都比較大，所以啟發學習法演算法伴隨著電腦技術的發展，取得了巨大的成就。
40年代：由於實際需要，提出了啟發學習法演算法（快速有效）。
50年代：逐步繁榮，其中 貪婪演算法和局部搜尋 等到人們的關注。
60年代: 反思，發現以前提出的啟發學習法演算法速度很快，但是解得品質不能保證，而且對大規
        模的問題仍然無能為力（收斂速度慢）。
70年代：計算複雜性理論的提出，NP問題。許多實際問題不可能在合理的時間範圍內找到全域最優解。發現貪婪演算法和局部搜尋演算法速度快，但解不好的原因主要是他們只是在局部的地區內找解，等到的解沒有全域最優性。
        由此必須引入新的搜尋機制和策略………..
        Holland的遺傳演算法出現了（Genetic Algorithm）再次引發了人們研究啟發學習法演算法的
        興趣。
80年代以後：
        類比退火演算法（Simulated Annealing Algorithm），人工神經網路（Artificial Neural Network），禁忌搜尋（Tabu Search）相繼出現。
最近比較熱或剛熱過去的：
演化演算法（Evolutionary Algorithm）, 蟻群演算法（Ant Algorithms）， 擬人擬物演算法，量子演算法等。
各個演算法的思想這就不再詳細給出（以後會給出一些，關注我的blog） ，為什麼要引出啟發學習法演算法，因為NP問題，一般的經典演算法是無法求解，或求解時間過長，我們無法接受。這裡要說明的是：啟發學習法演算法得到的解只是近似最優解（近似到什麼程度，只有根據具體問題才能給出）. 二十一世紀的最大的數學難題NP？=P，如果NP=P啟發學習法演算法就不在有存在的意義。

啟發學習法演算法的不足和如何解決方案：
（水平有限 僅僅提出6點）
啟發學習法演算法目前缺乏統一、完整的理論體系。
很難解決！ 啟發學習法演算法的提出就是根據經驗提出，沒有什麼堅實的理論基礎。
由於NP理論，啟發學習法演算法就解得全域最優性無法保證。
等NP？=P有結果了再說吧，不知道這個世紀能不能行。
各種啟發學習法演算法都有個自優點如何，完美結合。
如果你沒有實際經驗，你就別去幹這個，相結合就要做大量嘗試，或許會有意外的收穫。
啟發學習法演算法中的參數對演算法的效果起著至關重要的作用，如何有效設定參數。
還是那句話，這是經驗活但還要悟性，只有try again………..
啟發演算法缺乏有效迭代停止條件。
還是經驗，迭代次數100不行，就200，還不行就1000…………
還不行估計就是演算法有問題，或者你把它用錯地方了………..
啟發學習法演算法收斂速度的研究等。
你會發現，沒有完美的東西，要快你就要付出代價，就是越快你得到的解也就遠差。      (待續)