演算法（一）概述

標籤：遞迴   增加   隨機化   輸入資料   應用   空間   優點   科學   說明   

概述：

演算法（Algorithm）是指解題方案的準確而完整的描述，是一系列解決問題的清晰指令，演算法代表著用系統的方法描述解決問題的策略機制。也就是說，能夠對一定規範的輸入，在有限時間內獲得所要求的輸出。如果一個演算法有缺陷，或不適合於某個問題，執行這個演算法將不會解決這個問題。不同的演算法可能用不同的時間、空間或效率來完成同樣的任務。一個演算法的優劣可以用空間複雜度與時間複雜度來衡量。
演算法中的指令描述的是一個計算，當其運行時能從一個初始狀態和（可能為空白的）初始輸入開始，經過一系列有限而清晰定義的狀態，最終產生輸出並停止於一個終態。一個狀態到另一個狀態的轉移不一定是確定的。隨機化演算法在內的一些演算法，包含了一些隨機輸入。

特徵：

一個演算法應該具有以下五個重要的特徵：

有窮性（Finiteness）

演算法的有窮性是指演算法必須能在執行有限個步驟之後終止；

確切性(Definiteness)

演算法的每一步驟必須有確切的定義；

輸入項(Input)

一個演算法有0個或多個輸入，以刻畫運算對象的初始情況，所謂0個輸入是指演算法本身定出了初始條件；

輸出項(Output)

一個演算法有一個或多個輸出，以反映對輸入資料加工後的結果。沒有輸出的演算法是毫無意義的；

可行性(Effectiveness)

演算法中執行的任何計算步驟都是可以被分解為基本的可執行檔操作步，即每個計算步都可以在有限時間內完成（也稱之為有效性）。

 

方法遞推法

遞推是序列電腦中的一種常用演算法。它是按照一定的規律來計算序列中的每個項，通常是通過電腦前面的一些項來得出序列中的指定項的值。其思想是把一個複雜的龐大的計算過程轉化為簡單過程的多次重複，該演算法利用了電腦速度快和不知疲倦的機器特點。

遞迴法

程式調用自身的編程技巧稱為遞迴（recursion）。一個過程或函數在其定義或說明中有直接或間接調用自身的一種方法，它通常把一個大型複雜的問題層層轉化為一個與原問題相似的規模較小的問題來求解，遞迴策略只需少量的程式就可描述出解題過程所需要的多次重複計算，大大地減少了程式的代碼量。遞迴的能力在於用有限的語句來定義對象的無限集合。一般來說，遞迴需要有邊界條件、遞迴前進段和遞迴返回段。當邊界條件不滿足時，遞迴前進；當邊界條件滿足時，遞迴返回。
注意：
(1) 遞迴就是在過程或函數裡調用自身;
(2) 在使用遞迴策略時，必須有一個明確的遞迴結束條件，稱為遞迴出口。

窮舉法

窮舉法，或稱為暴力破解法，其基本思路是：對於要解決的問題，列舉出它的所有可能的情況，逐個判斷有哪些是符合問題所要求的條件，從而得到問題的解。它也常用於對於密碼的破譯，即將密碼進行逐個推算直到找出真正的密碼為止。例如一個已知是四位並且全部由數字組成的密碼，其可能共有10000種組合，因此最多嘗試10000次就能找到正確的密碼。理論上利用這種方法可以破解任何一種密碼，問題只在於如何縮短試誤時間。因此有些人運用電腦來增加效率，有些人輔以字典來縮小密碼組合的範圍。

貪心演算法

貪心演算法是一種對某些求最優解問題的更簡單、更迅速的設計技術。
用貪進法設計演算法的特點是一步一步地進行，常以當前情況為基礎根據某個最佳化測度作最優選擇，而不考慮各種可能的整體情況，它省去了為找最優解要窮盡所有可能而必須耗費的大量時間，它採用自頂向下,以迭代的方法做出相繼的貪心選擇,每做一次貪心選擇就將所求問題簡化為一個規模更小的子問題, 通過每一步貪心選擇,可得到問題的一個最優解，雖然每一步上都要保證能獲得局部最優解，但由此產生的全域解有時不一定是最優的，所以貪婪法不要回溯。
貪婪演算法是一種改進了的分級處理方法，其核心是根據題意選取一種量度標準，然後將這多個輸入排成這種量度標準所要求的順序，按這種順序一次輸入一個量，如果這個輸入和當前已構成在這種量度意義下的部分最佳解加在一起不能產生一個可行解，則不把此輸入加到這部分解中。這種能夠得到某種量度意義下最優解的分級處理方法稱為貪婪演算法。
對於一個給定的問題，往往可能有好幾種量度標準。初看起來，這些量度標準似乎都是可取的，但實際上，用其中的大多數量度標準作貪婪處理所得到該量度意義下的最優解並不是問題的最優解，而是次優解。因此，選擇能產生問題最優解的最優量度標準是使用貪婪演算法的核心。
一般情況下，要選出最優量度標準並不是一件容易的事，但對某問題能選擇出最優量度標準後，用貪婪演算法求解則特別有效。

分治法

分治法是把一個複雜的問題分成兩個或更多的相同或相似的子問題，再把子問題分成更小的子問題……直到最後子問題可以簡單的直接求解，原問題的解即子問題的解的合并。
分治法所能解決的問題一般具有以下幾個特徵：
(1) 該問題的規模縮小到一定的程度就可以容易地解決；
(2) 該問題可以分解為若干個規模較小的相同問題，即該問題具有最優子結構性質；
(3) 利用該問題分解出的子問題的解可以合并為該問題的解；
(4) 該問題所分解出的各個子問題是相互獨立的，即子問題之間不包含公用的子子問題。

動態規劃法

動態規劃是一種在數學和電腦科學中使用的，用於求解包含重疊子問題的最佳化問題的方法。其基本思想是，將原問題分解為相似的子問題，在求解的過程中通過子問題的解求出原問題的解。動態規劃的思想是多種演算法的基礎，被廣泛應用於電腦科學和工程領域。
動態規劃程式設計是對解最佳化問題的一種途徑、一種方法，而不是一種特殊演算法。不象前面所述的那些搜尋或數值計算那樣，具有一個標準的數學運算式和明確清晰的解題方法。動態規劃程式設計往往是針對一種最佳化問題，由於各種問題的性質不同，確定最優解的條件也互不相同，因而動態規劃的設計方法對不同的問題，有各具特色的解題方法，而不存在一種萬能的動態規划算法，可以解決各類最佳化問題。因此讀者在學習時，除了要對基本概念和方法正確理解外，必須具體問題具體分析處理，以豐富的想象力去建立模型，用創造性的技巧去求解。

迭代法

迭代法也稱輾轉法，是一種不斷用變數的舊值遞推新值的過程，跟迭代法相對應的是直接法（或者稱為一次解法），即一次性解決問題。迭代法又分為精確迭代和近似迭代。“二分法”和“牛頓迭代法”屬於近似迭代法。迭代演算法是用電腦解決問題的一種基本方法。它利用電腦運算速度快、適合做重複性操作的特點，讓電腦對一組指令（或一定步驟）進行重複執行，在每次執行這組指令（或這些步驟）時，都從變數的原值推出它的一個新值。
分支界限法
分枝界限法是一個用途十分廣泛的演算法，運用這種演算法的技巧性很強，不同類型的問題解法也各不相同。
分支定界法的基本思想是對有約束條件的最佳化問題的所有可行解（數目有限）空間進行搜尋。該演算法在具體執行時，把全部可行的解空間不斷分割為越來越小的子集（稱為分支），並為每個子集內的解的值計算一個下界或上界（稱為定界）。在每次分支後，對凡是界限超出已知可行解值那些子集不再做進一步分支，這樣，解的許多子集（即搜尋樹上的許多結點）就可以不予考慮了，從而縮小了搜尋範圍。這一過程一直進行到找出可行解為止，該可行解的值不大於任何子集的界限。因此這種演算法一般可以求得最優解。
與貪心演算法一樣，這種方法也是用來為組合最佳化問題設計求解演算法的，所不同的是它在問題的整個可能解空間搜尋，所設計出來的演算法雖其時間複雜度比貪婪演算法高，但它的優點是與窮舉法類似，都能保證求出問題的最佳解，而且這種方法不是盲目的窮舉搜尋，而是在搜尋過程中通過限界，可以中途停止對某些不可能得到最優解的子空間進一步搜尋（類似於人工智慧中的剪枝），故它比窮舉法效率更高。

回溯法

回溯法（探索與回溯法）是一種選優搜尋法，按選優條件向前搜尋，以達到目標。但當探索到某一步時，發現原先選擇並不優或達不到目標，就退回一步重新選擇，這種走不通就退回再走的技術為回溯法，而滿足回溯條件的某個狀態的點稱為“回溯點”。
其基本思想是，在包含問題的所有解的解空間樹中，按照深度優先搜尋的策略，從根結點出發深度探索解空間樹。當探索到某一結點時，要先判斷該結點是否包含問題的解，如果包含，就從該結點出發繼續探索下去，如果該結點不包含問題的解，則逐層向其祖先結點回溯。（其實回溯法就是對隱式圖的深度優先搜尋演算法）。 若用回溯法求問題的所有解時，要回溯到根，且根結點的所有可行的子樹都要已被搜尋遍才結束。 而若使用回溯法求任一個解時，只要搜尋到問題的一個解就可以結束。

演算法（一）概述