再上一篇: 第 3 章  霍普费尔德神经网络
上一篇:3. 2  连续霍氏网
主页
下一篇:3. 4  组合最优化
再下一篇:3. 5  习题
文章列表

3. 3  按内容联想的存储器

《用于最优化的计算智能》 Nirwan Ansari Edwin Hou 著 李军 边肇祺 译 清华大学出版社

离散霍氏网最初是为设计联想式存储器(CAM)提出的。存储器是用于存储(写入)和恢复(读出)信息(数据)的介质。在传统数字计算机中,随机存储器(RAM)的信息存取是依靠地址(标签)来进行的。对应于此,CAM 中通常用向量表示的信息则由该向量本身、与其相似向量或另一向量来存取。用相似向量存取的方式被称为自相关,而用另一向量存取则为互相关。

作为一个 的霍氏网,表示信息的向量(模式)集合 (1), (2),…, (p)以权值矩阵

CAM S S S

W的形式存储,且

① 在整个网络中对每个神经元进行一次更新即构成了一个周期或一次扫描。除非另有说明,一次扫描与一个周期是相同的。

#第19页-

p

(1- δij) (2si(k) - 1)(2sj(k) - 1)  对于二值限幅

∑k= 1

wij = p (3.19)

(1- δij) s(k)sj(k) 对于双极限幅

∑k= 1

其中:

wij是W中第(i,j)个元素;

(k) 是 (k)中的第 个元素;

s S i

ij是克罗奈科尔(Kronecker)增量函数。

数据更新以(3.7)式给出的异步方式进行,但不计外部输入。如果一个与存储器矩阵中 (k)最相近的向量输入网络, (k)将是网络的输出。实际上, (1), (2),…, (p)是网络的稳

S S S S S

定状态,并满足下列条件

s(k) = sgn wijsj(k) 或S(k) = sgn{WS(k)} (3.20)

j≠i

例3.1  令 (1)= [1  1  - 1]T, (2)= [- 1  - 1  1]T 为存储于一个 中的两

S S CAM

个信息向量,其中上角标T 表示向量的转置。由此,可据(3.19)式构造出权值矩阵W如下:

0 2 - 2

W= 2 0 - 2 (3.21)

- 2 - 2 0

注意S(1)= sgn{WS(1)}和S(2)= sgn{WS(2)}是网络的两个稳定状态。如图3.4所示,其余6个网络状态中的任何一个都可在一次扫描中收敛于这两个状态中的一个。

图3.4  例3.1中CAM的状态转换

霍氏网的容量是一个很重要的参量,特别是将其用作CAM时。据此可以确定网络中可以存入多少信息,或是网络可以分辨多少模式。霍氏网的尺度性质不好。也就是说,它的容量增长小于线性增长[8][107]。读者可以参考有关文献进一步了解增大容量的方法,例如使用三值神经元[24][25],以及应用子网[36]。