Python退火演算法在高次方程的應用

標籤：iter   設定   idt   步驟   label   from   方法   pen   \n   

一，簡介

退火演算法不言而喻，就是鋼鐵在淬鍊過程中失溫而成穩定態時的過程，熱力學上溫度（內能）越高原子態越不穩定，而溫度有一個向低溫區輻射降溫的物理過程，當物質內能不再降低時候該物質原子態逐漸成為穩定有序態，這對我們從隨機複雜問題中找出最優解有一定借鑒意義，將這個過程化為演算法，具體參見其他資料。

二，計算方程

我們所要計算的方程是f(x) = (x - 2) * (x + 3) * (x + 8) * (x - 9),是一個一元四次方程，我們稱為高次方程，當然這個函數的開口是向上的，那麼在一個無限長的區間內我們可能找不出最大值點，因此我們嘗試在較短區間內解最小值點，我們成為最優解。

解法1：

毫無疑問，數學方法多次求導基本可以解出，但是這個過程較複雜，還容易算錯，我就不贅述了，讀者有時間自己可以嘗試解一下。

解法二：

這個解法就是暴力解決了，我們這裡只求解區間[-10,10]上的最優解，直接隨機200個點，再除以10（這樣可以得到非整數橫座標），再依此計算其縱座標f（x），min{f(x)}一下，用list的index方法找出最小值對應位置就行了，然後畫出圖形大致瞄一瞄。

直接貼代碼：

 1 import random 2 import matplotlib.pyplot as plt 3  4 list_x = [] 5 # for i in range(1): 6 #     #print(random.randint(0,100)) 7 #     for i in range(0,100): 8 #         print("sss",i) 9 #10 #     list_x.append(random.randint(0,100))11 for i in range(-100,100):12     list_x.append(i/10)13 14 print("橫座標為：",list_x)15 print(len(list_x))16 17 18 list_y = []19 for x in list_x:20     # print(x)21     #y = x*x*x - 60*x*x -4*x +622     y = (x - 2) * (x + 3) * (x + 8) * (x - 9)23     list_y.append(y)24 print("縱座標為：",list_y)25 26 #經驗證，這裡算出來的結果6.5和最優解1549都是對的27 print("最小值為：",min(list_y))28 num = min(list_y)29 print("最優解：",list_y.index(num)/10)30 print("第",list_y.index(num)/10-10,"個位置取得最小值")31 32 plt.plot(list_x, list_y, label=‘NM‘)33 #plt.plot(x2, y2, label=‘Second Line‘)34 plt.xlabel(‘X‘)  #橫座標標題35 plt.ylabel(‘Y‘)  #縱座標標題36 #plt.title(‘Interesting Graph\nCheck it out‘,loc="right")   #映像標題37 #plt.title(‘Interesting Graph\nCheck it out‘)38 plt.legend()    #顯示Fisrt Line和Second Line（label）的設定39 plt.savefig(‘C:/Users/zhengyong/Desktop/1.png‘)40 plt.show()

得到如下結果：

那麼我們得出最優解的座標是（6.5，-1549.6875），結果先放這裡，接下來用退火演算法看能不能解出。

解法三：

我們看一張圖（解法二中的方法得出的圖），然後講講退火演算法的最核心的思想。

首先，先隨機一個[-10.10]之間的隨機解，作為初始解空間，比方說隨機了一個位於[-2.5.2.5]中最高的那個點就是點1(橫座標為x1)，他有對於的縱座標的值y1，這時候我們把這個點的橫座標隨機加或者減去一個值（注意這個值的大小很重要，我們先叫他隨機移動值），加或者減後得到新的橫座標的值x2，再算出這個橫座標的對應縱座標（y2），對比之前的縱座標的大小，這裡設定

delta = y2-y1，發現無論怎樣都是小於原先的縱座標（前提是隨機移動值足夠小），這時候我們把新得到的x2賦值給x1，這時候現在的x2的值傳給x1，x1是原先隨機的值，這個過程可以重複iter_num 次，大小就根據自己的區間來。

上述的整個過程是在一個溫度下進行的，這個過程結束後我們用溫度更新公式再次的更新溫度，再去重複上述步驟。

溫度更新我是用的常用的公式是T(t)=aT0(t-1)，其中0.85≦a≦0.99。也可用相應的熱能衰減公式來計算，T(t)=T0/(1+lnt),t=1,2,3,...，這都是簡單的狀態更新方法。

也就是說，不管你隨機的是幾我都能朝著最佳化的方向前進（前提是非最優點）。

其次，點2 是同理的，區別在於他是局部最優解，那麼跳出這個局部最優解的機制是什麼呢？

若初始點是（x3,y3）,然後用上述方法得出（x4,y4），在點二處得到的delta肯定是大於0的，那麼怎麼辦呢？當大於0的時候我們每次都有一定的機率來接受這個看起來不是最優的點，叫Metropolis準則，具體是這樣的：

這裡的E就是y，T就是當前溫度，delta小於0就是百分百接受新值，否者就是按照這個機率接受，當迭代多次的時候，每次向右移動的步長累加到點1 時候他就有可能找到最終的最優解了，步長是累加的但是機率是累成的，意味著這個機率很小，但是一旦迭代次數多久一定會跑出來到最優解處。

最優，點3不解釋了哈，和上面一樣。

那麼我們上代碼：

 1 #自己改寫的退火演算法計算方程(x - 2) * (x + 3) * (x + 8) * (x - 9)的計算方法 2 #class沒啥用 3 import numpy as np 4 import matplotlib.pyplot as plt 5 from matplotlib import pyplot as plt 6  7  8 #設定基本參數 9 #T初始溫度，T_stop，iter_num每個溫度的迭代次數，Q溫度衰減次數10 class Tuihuo_alg():11     def __init__(self,T_start,iter_num,T_stop,Q,xx,init_x):12         self.T_start = T_start13         self.iter =iter_num14         self.T_stop = T_stop15         self.Q = Q16         self.xx = xx17         self.init_x = init_x18     # def cal_x2y(self):19     #     return (x - 2) * (x + 3) * (x + 8) * (x - 9)20 21 22 if __name__ == ‘__main__‘:23 24     def cal_x2y(x):25         #print((x - 2) * (x + 3) * (x + 8) * (x - 9))26         return (x - 2) * (x + 3) * (x + 8) * (x - 9)27     T_start = 100028     iter_num = 100029     T_stop = 130     Q = 0.9531     K = 132     l_boundary = -1033     r_boundary = 1034     #初始值35     xx = np.linspace(l_boundary, r_boundary, 300)36     yy = cal_x2y(xx)37     init_x =10 * ( 2 * np.random.rand() - 1)38     print("init_x:",init_x)39 40     t = Tuihuo_alg(T_start,iter_num,T_stop,Q,xx,init_x)41 42     val_list = [init_x]43     while T_start>T_stop:44         for i in range(iter_num):45             init_y = cal_x2y(init_x)46             #這個區間(2 * np.random.rand() - 1)本身是（-1,1），所以加上就是一個隨機加或者減過程47             new_x = init_x + (2 * np.random.rand() - 1)48             if l_boundary <= new_x <= r_boundary:49                 new_y = cal_x2y(new_x)50         #print("new_x:",new_x)51         #print(‘new_y:‘,new_y)52                 delta = new_y - init_y  #新減舊53                 if delta < 0:54                     init_x = new_x55                 else:56                     p = np.exp(-delta / (K * T_start))57                     if np.random.rand() < p:58                         init_x = new_x59             #print("new_x:",new_x)60             #print("當前溫度：",T_start)61         T_start = T_start * Q62 63 print("最優解x是：", init_x)   #這裡最初寫的是new_x,所以結果一直不對64 print("最優解是：", init_y)65 #比如我加上new_x，真假之間的誤差實際就是最後一次的賦值“init_x = new_x”66 print("假最優解x是：", new_x)   #這裡最初寫的是new_x,所以結果一直不對67 print("假最優解是：", new_y)68 69 xx = np.linspace(l_boundary,r_boundary,300)70 yy = cal_x2y(xx)71 plt.plot(xx, yy, label=‘Tuihuo‘)72 #plt.plot(x2, y2, label=‘Second Line‘)73 plt.xlabel(‘X for tuihuo‘)  #橫座標標題74 plt.ylabel(‘Y for tuihuo‘)  #縱座標標題75 #plt.title(‘Interesting Graph\nCheck it out‘,loc="right")   #映像標題76 #plt.title(‘Interesting Graph\nCheck it out‘)77 plt.legend()    #顯示Fisrt Line和Second Line（label）的設定78 plt.savefig(‘C:/Users/zhengyong/Desktop/1.png‘)79 plt.show()

這裡用了class，發現並不需要，但是不想改了，就這樣吧。

最優結果為：

得出的為：

 

三，總結

退火演算法的具體思想我沒怎麼講，但是核心的點我都寫出來了，經過驗證發現退火演算法得出了（6.551677228904226，-1548.933671426107）的最優解，看看解法二的（6.5，-1549.6875），我們發現，呵呵，差不多，誤差來講的話，能接受，當然讀者也可以多跑幾個資料出來驗證。

我的實驗環境是Python3.6，Numpy1.14.3，matplotlib2.2.2，64位win10，1709教育版，OS核心16299.547，就這樣吧，盡量講詳細點。

 

Python退火演算法在高次方程的應用