1.2　智能優化方法

智能優化方法的主要思想來源于人類對物理、生物和社會等自然現象的長期觀察和深刻理解。智能優化方法的特點就是仿自然，如仿人類思維（神經網絡、禁忌搜索等）、仿生物行為（粒子群優化、蟻群優化等）和仿物理原理（模擬退火、微正則退火等）。這些方法從隨機的可行初始解出發，采用優勝劣汰策略，在可接受的計算成本內去搜尋滿意解。雖然不能保證最終一定能求得最優解，但智能優化方法能在搜索精度和算法復雜度之間達到某種平衡。智能優化方法已成為解決優化問題特別是NP-難問題的一種有力工具，在優化領域得到了非常廣泛的應用。

常用的智能優化方法有以下幾種：

（1）模擬退火（simulate anneal）。模擬退火是基于Monte Carlo迭代求解策略的隨機尋優算法，其出發點是固體物質退火過程與組合優化問題的相似性；從某一初溫開始，隨著溫度的降低，結合概率突跳特性在解空間中搜索最優解，即在局部解時能概率性地跳出并最終趨于全局最優。

（2）遺傳算法（genetic algorithm）。遺傳算法是一種通過模擬自然進化過程搜索最優解的方法。它將問題求解表示成染色體適者生存過程，通過染色體的逐步迭代，最終收斂到最適應環境的個體（優化問題的最優解或滿意解）。

（3）禁忌搜索（tabu search）。禁忌搜索是一種全局逐步優化算法，它模擬人類的智力過程，通過引入一種靈活的存儲結構和相應的禁忌規則來避免迂回搜索，并通過藐視原則來赦免一些被禁忌的優良狀態，以實現全局優化。

（4）進化規劃（evolution programming）。進化規劃過程可理解為從所有可能的計算機程序中，搜索具有高適應度的計算機程序個體。進化規劃最初由隨機產生的計算機程序群體開始，計算機程序由適合問題空間領域的函數組成，函數可以是算術運算函數、編程操作、邏輯函數或領域函數。群體中每個計算機程序個體都是用適應度來評價的，該適應度的取值與特定問題領域有關。

（5）進化策略（evolution strategy）。進化策略通過模仿自然進化原理來求解參數優化問題。進化策略和遺傳算法的區別包括：表示個體的方式不同，進化策略在浮點矢量上運行，而遺傳算法一般運行在二進制矢量上；選擇過程不同；復制參數不同，遺傳算法的復制參數（交叉和變異的可能性）在進化過程中保持恒定，而進化策略動態地改變它們。隨著技術的發展，進化策略和遺傳算法的差別越來越不明顯。

（6）蟻群算法（ant colony optimization）。蟻群算法是受自然界中螞蟻搜索食物行為的啟發而提出的一種隨機優化算法。螞蟻間借助于信息素這種化學物質進行信息的交流和傳遞，并表現出正反饋現象：某段路徑上經過的螞蟻越多，該路徑被重復選擇的概率就越高。正反饋機制和通信機制是蟻群算法的兩個重要基礎。

（7）人工神經網絡（neural network）。人工神經網絡是一種模仿動物神經網絡行為特征，進行分布式并行信息處理的數學模型。人工神經網絡具有自學習和自適應能力，可通過預先提供的相互對應的輸入數據和輸出數據，分析掌握兩者之間的潛在規律，最終根據這些規律，用新輸入數據來推算輸出結果。