最佳化計算是連續Hopfield神經網路（CHNN）的一個重要應用之一，CHNN可以用於線性、二次型和非線性等多種型別的最佳化問題中。當CHNN應用於求解最佳化問題，就是把目標函式轉化為網路的能量函式，把問題的變數對應於網路的狀態，網路能量函式的極小點對應於系統的穩定平衡點，這樣能量函式極小點的求解就轉換成求解系統的穩定平衡點，隨著時間的增長，網路的運動軌跡在相空間中總是朝著能量函式減小的方向運動，最終到達系統的平衡點即能量函式的極小點，即網路的能量函式收斂於極小值時，問題的最優解也隨之求出。

能量函式示意圖

從另一角度看：如果把Hopfield神經網路動力系統的穩定吸引子考慮為適當能量函式（或廣義目標函式）的極小點，最佳化計算就是從一個最初的初始點找到目標函式的極小點，初始點就相當於神經網路動力系統的初始條件，隨著系統執行到某一極小點。

最佳化計算中往往要求最後的解為系統的全域性極小點，如果最佳化問題是一個凸性最佳化問題，它唯一的一個區域性極小點就是全域性極小點。如果最佳化問題是非凸的，用CHNN時可能會陷入區域性極小點，必須採用其它的方法來使其跳出區域性極小點而達到全域性極小點。

用Hopfield神經網路解決最佳化問題的方法是根據問題的性質，把目標函式與網路的能量函式聯絡起來，把問題的變數對應於網路神經元的狀態，透過網路執行時的能量函式的最小化趨勢求的最優解，其關鍵問題在於，將目標函式恰當地寫成網路能量函式形式。

Hopfield神經網路的能量函式是朝著梯度減小的方向變化的，它仍然存在一個問題，就是一旦能量函式陷入到區域性極小值，它將不能自動跳出區域性極小點，則無法得到網路的最優解。CHNN模型用於最佳化計算時，僅需要網路演化的最終狀態，而不關心詳細的狀態演化軌跡，這一點非常重要，它使得我們可以取得較大的時間步長，而無需擔心數值模擬的中間結果是否接近一條狀態演化軌跡。CHNN求解最佳化問題一直存在一些問題極大限制了它的應用，最主要的問題之一是由於網路存在多個平衡點而導致最佳化的偽響應。

最佳化計算路徑示意圖

用於最佳化計算的CHNN，特別是實時求解最最佳化問題的Hopfield網路應具備以下特點：①具有全域性漸近穩定的唯一平衡點，它對應於最佳化問題的全域性最最佳化解，因此網路的全域性漸近穩定避免出現次最佳化的偽響應、保證全域性收斂到一個最優解的必要特徵；②是絕對穩定的，這用於保證網路對所有滿足條件的啟用函式及所有的外部輸入向量都是全域性漸近穩定的。

有全域性漸近穩定的唯一平衡點

將最佳化問題對映為一個CHNN網路的步驟：

（1）應將要解決的問題的模型對映到Hopfield神經網路上。並選擇合適的變數，使其與網路中的神經元對應起來，每個神經元都有輸入、輸出狀態。

（2）根據任務需要選擇或設計一種合適的激勵函式形式。

（3）構造合適的能量函式並將最佳化問題的目標函式與該能量函式對應，將問題的變數對應於網路的狀態，同時給出網路的動態更新方程；這是利用Hopfield神經網路解決組合最佳化問題的關鍵步驟，需要一定的技巧。

（4）即根據網路的不同用途，從而設計出連線權矩陣和神經元閥值。

（5）將設計出來的權矩陣和神經元閥值代入神經網路的執行方程，初始化網路並給定初始狀態向量，使得網路執行，從而得到求解問題的迭代方程。

最佳化問題對映為一個CHNN網路的步驟

計算科學與人工智慧百家號版權所有。