演算法學習（一）五個常用演算法概念瞭解

標籤：利用   過程   針對   解決問題   emma   類型   二分法   最佳化   原理   

網傳常用五大演算法：貪婪演算法，動態規划算法，分治演算法，回溯演算法以及分支限界演算法

 

貪心演算法

貪心演算法（又稱貪婪演算法）是指，在對問題求解時，總是做出在當前看來是最好的選擇。也就是說，不從整體最優上加以考慮，他所做出的是在某種意義上的局部最優解。貪心演算法不是對所有問題都能得到整體最優解，關鍵是貪心策略的選擇，選擇的貪心策略必須具備無後效性，即某個狀態以前的過程不會影響以後的狀態，只與目前狀態有關。[1] 

 

動態規劃

動態規劃(dynamic programming)是運籌學的一個分支，是求解決策過程(decision process)最佳化的數學方法。20世紀50年代初美國數學家R.E.Bellman等人在研究多階段決策過程(multistep decision process)的最佳化問題時，提出了著名的最佳化原理(principle of optimality)，把多階段過程轉化為一系列單階段問題，利用各階段之間的關係，逐個求解，創立瞭解決這類過程最佳化問題的新方法——動態規劃。1957年出版了他的名著《Dynamic Programming》，這是該領域的第一本著作。

 

分治演算法

分治演算法的基本思想是將一個規模為N的問題分解為K個規模較小的子問題，這些子問題相互獨立且與原問題性質相同。求出子問題的解，就可得到原問題的解。即一種分目標完成程式演算法，簡單問題可用二分法完成。

另一種表述：把一個複雜的問題分成兩個或更多的相同或相似的子問題，再把子問題分成更小的子問題……直到最後子問題可以簡單的直接求解，原問題的解即子問題的解的合并

 

回溯演算法

回溯演算法實際上一個類似枚舉的搜尋嘗試過程，主要是在搜尋嘗試過程中尋找問題的解，當發現已不滿足求解條件時，就“回溯”返回，嘗試別的路徑。回溯法是一種選優搜尋法，按選優條件向前搜尋，以達到目標。但當探索到某一步時，發現原先選擇並不優或達不到目標，就退回一步重新選擇，這種走不通就退回再走的技術為回溯法，而滿足回溯條件的某個狀態的點稱為“回溯點”。許多複雜的，規模較大的問題都可以使用回溯法，有“通用解題方法”的美稱。[1] 

 

分支定界法

分枝定界法是一個用途十分廣泛的演算法，運用這種演算法的技巧性很強，不同類型的問題解法也各不相同。分支定界法的基本思想是對有約束條件的最佳化問題的所有可行解（數目有限）空間進行搜尋。該演算法在具體執行時，把全部可行的解空間不斷分割為越來越小的子集（稱為分支），並為每個子集內的解的值計算一個下界或上界（稱為定界）。  個人理解，這些演算法有點一種解決問題的思想，針對問題需要分析，是否可以用當前演算法解決，以及選擇演算法中的核心策略。

演算法學習（一）五個常用演算法概念瞭解