再上一篇:5. 2  鞍点展开
上一篇:5. 3  稳定性
主页
下一篇:5. 5  二分图示例
再下一篇: 第 6 章  遗 传 算 法
文章列表

5. 4  均场网的参数

《用于最优化的计算智能》 Nirwan Ansari Edwin Hou 著 李军 边肇祺 译 清华大学出版社

运行一个均场网需要事先确定如下参数以便取得较好的结果:

(1) 拉格朗日参数  一个组合最优化问题可用能量函数(或代价函数)表征为如下形式:

#第45页-

能量= w1¡¤ 代价”+ w2¡¤ 约束” (5.19)

+ ①

其中w1 和w2∈R 是拉格朗日参数 。注意如下两个极端情况:

① 如果w1→∞,(5.19)式以其第一项(代价)为主,松弛过程会给出不符合约束条件的无效解答。

② 如果w1= 0,松弛过程可能终止于一个虽然有效但却远非全局最优的解答。

因此,根据具体问题适当确定的拉格朗日参数将在很大程度上影响解答的质量。

(2) 临界温度  临界温度定义为在平均意义上每个神经元开始显著移向两个极值- 1和1时的温度。从(5.17)式显见,在高温下神经元的所有均值在0附近随机分布。因此,在过高温度下开始松弛过程是计算资源的一种浪费。另一方面,如果起始温度过低,松弛过程变得像统计力学中的淬火一样,神经元均值的演变将会产生很差的结果。所以,松弛过程开始时的临界温度的确定是至关重要的。在拉格朗日参数和临界温度之间通常存在某种联系。

(3) 每一温度下的状态转移  因为在每个温度下一定收敛于平衡态,每一温度下的迭代次数可由网络状态在连续两次迭代之间的相似性来确定。

(4) 终止温度或停止准则  通常,当温度到达0时,退火过程终止。如果进一步的松弛过程不会产生更好的解答,可以定义一个适当的停止准则以提早终止退火过程,从而节省计算资源。

(5) 降温函数  降温函数安排温度下降的流程。温度的快速下降有可能使松弛过程产出很差的结果,而缓慢下降又会减低计算效率。

最后四个参数构成了均场退火的冷却流程。这些参数的设定可用类似于第4章中所讨论的方式。如何更好地确定这些参数至今仍是一个挑战性的研究题目。

均场退火的步骤可以归纳如下:

(1) 根据问题设定参数

・ 构造能量函数;

・ 确定拉格朗日参数;

・ 确定临界温度或起始温度;

・ 确定在每个温度下允许的转移或迭代次数;

・ 定义降温函数;

・ 定义停止准则。

(2) 初始化v=i rand(- δ,δ),i= 1,2,…,N。其中rand(- δ,δ)随机生成分布于- δ和δ之间且©¦©¦ 1的数值。

(3) 重复下列操作直至满足停止准则

・ 在每个温度下展开松弛过程直至达到平衡态:

wijvj- + Ii

+ ∑

vi = tanh j

T

① 在把一个有约束的最优化问题变换为一个无约束最优化问题的意义上。

#第46页-

・ 降温。