system: [SYSTEM]

user: 2. 实时建模算法RMA的理论建立 2.1. 实时建模算法RMA的基本思想 在非线性连续系统定义域的每个时间节点上，考虑将多层反馈神经网模型去近似模拟追踪非线性连续系统，也就是将多层反馈神经网络作为为非线性连续系统的数学模型来进行仿真模拟实验。因此需要随着时间变化元素确定的同时计算出多层反馈神经网络的连接权矩阵 W 1 的值，这也就是将非线性系统的建模问题转化为基于多层反馈神经网络的实时训练权矩阵的计算问题。为了达到实时训练的目的，所用训练算法必须简单有效且收敛效果好。 2.1.1. 非线性连续系统离散化 反馈神经网络近似非线性离散系统的能力在文献 [ 6 ] 中已经进行了扩展研究，对于更普遍的非线性时变离散系统已经证明了在有限时间段内的输出轨迹可以被反馈神经网络输出神经元的状态向量近似模拟到任何程度。在多层反馈神经网络训练权矩阵过程中，非线性连续系统的每一个变量都与连续时间和训练迭代的次数两个独立动态因素有关，所以，利用的2-D连续-离散型系统的表述形式可表述为 ∂ x ( t ， k ) ∂ t = − α x ( t ， k ) + f ( W 1 ( t ， k ) ， x ( t ， k ) ) (1-1) 这时，非线性连续系统的连接权矩阵的训练迭代可规定为 W 1 ( t ， k + 1 ) = W 1 ( t ， k ) + Δ W 1 ( t ， k ) (1-2) 以上(1-1)和(1-2)式应用了2-D连续-离散系统的形式清晰地解释了多层反馈神经网络的实时建模训练过程。 2.1.2. 连接权矩阵的训练法 要确定(1-2)式中 Δ W 1 的值，即每一次迭代训练权矩阵的差值，由(1-2)式可看出， Δ W 1 也由连续时间 t 及迭代次数 k 两个因素决定，所以下面来确定其计算规则。 首先，设多层反馈神经网络中全部的神经元均为输出神经元，用这些神经元的状态去逼近模拟所选择的非线性数据，如果模拟曲线与真实曲线拟合效果能够十分近似就达到了算法模拟目的。假设真实值与模拟值的差为偏差量 e ，即 e ( t ， k ) = y ( t ) − x ( t ， k ) ， t ∈ [ 0 ， ∞ ) (1-3) 其中， y ( t ) = F ( t ) 是在实际问题中需要确定的非线性连续系统的函数 F ，其中 y ( t ) ∈ R L ， t ∈ [ 0 ， ∞ ) 。 若在多层反馈神经网络的连接权矩阵迭代训练进程中，设权矩阵的初始条件为 x ( 0 ， k ) = x ( 0 ) = y ( 0 ) ， k = 0 ， 1 ， 2 ， ⋯ (1-4) 和随机均匀分布的 W 1 ( t ， 0 ) ，则当 η ( t ， k ) = ∫ 0 t [ x ( τ ， k + 1 ) − x ( τ ， k ) ] d τ (1-5) 且 η ( 0 ， k ) = 0 ，由此可得 ∂ η ( t ， k ) ∂ t = x ( t ， k + 1 ) − x ( t ， k ) = x ( t ， k + 1 ) − x ( 0 ， k + 1 ) − x ( t ， k ) + x ( 0 ， k ) = ∫ 0 t ∂ x ( τ ， k + 1 ) ∂ τ d τ − ∫ 0 t ∂ x ( τ ， k ) ∂ τ d τ = − α ∫ 0 t x ( τ ， k + 1 ) d τ + ∫ 0 t f ( W 1 ( τ ， k + 1 ) ， x ( τ ， k + 1 ) ) d τ       + α ∫ 0 t x ( τ ， k ) d τ − ∫ 0 t f ( W 1 ( τ ， k ) ， x ( τ ， k ) ) d τ = − α η ( t ， k ) + ∫ 0 t [ f ( W 1 ( τ ， k + 1 ) ， x ( τ ， k + 1 ) ) − f ( W 1 ( τ ， k ) ， x ( τ ， k ) ) ] d τ 再由(1-3)式可以得到 e ( t ， k + 1 ) − e ( t ， k ) = x ( t ， k ) − x ( t ， k + 1 ) = α η ( t ， k ) − ∫ 0 t [ f ( W 1 ( τ ， k + 1 ) ， x ( τ ， k + 1 ) ) − f ( W 1 ( τ ， k ) ， x ( τ ， k ) ) ] d τ (1-6) 令 f ( W 1 ( t ， k + 1 ) ， x ( t ， k + 1 ) ) − f ( W 1 ( t ， k ) ， x ( t ， k ) ) = K 1 ∂ η ( t ， k ) ∂ t + K 2 ∂ e ( t ， k ) ∂ t (1-7) 其中 K 1 和 K 2 是待定的系数矩阵，再联合(1-6)和(1-7)式则可以得到以下2-D连续-离散Roessor模型，可参见文献 [ 7 ] 的研究结论。 [ ∂ η ( t ， k ) ∂ t e ( t ， k + 1 ) ] = [ − α I + K 1 K 2 α I − K 1 I − K 2 ] [ η ( t ， k ) e ( t ， k ) ] + [ − K 1 − K 2 K 1 K 2 ] [ η ( 0 ， k ) e ( 0 ， k ) ] (1-8) 其中 I 是恰当维数的单位矩阵，且 η ( 0 ， k ) = 0 ， k = 0 ， 1 ， 2 ， ⋯ 。此外，根据(1-3)和(1-4)式可得 e ( 0 ， k ) = 0 ， k = 0 ， 1 ， 2 ， ⋯ ，所以(1-8)式可化简为 [ ∂ η ( t ， k ) ∂ t e ( t ， k + 1 ) ] = [ − α I + K 1 K 2 α I − K 1 I − K 2 ] [ η ( t ， k ) e ( t ， k ) ] (1-9) 其定解条件为 η ( 0 ， k ) = 0 ， k = 0 ， 1 ， 2 ， ⋯ 和 e ( t ， 0 ) = y ( t ) − x ( t ， 0 ) ， t ∈ [ 0 ， T ] 。 由系统公式(1-9)可知，(1-7)式中的系数矩阵 K 1 和 K 2 与建模过程的偏差量 e ( t ， k ) 有直接的关系，并且 K 1 和 K 2 的选取必须保证 lim k → ∞ e ( t ， k ) = 0 ， t ∈ [ 0 ， T ] 。为了找出 K 1 和 K 2 与 e ( t ， k ) 收敛性的关系，接下来先介绍一个定理。 定理：对于下面的2-D连续-离散型线性系统 [ ∂ x ( t ， k ) ∂ t y ( t ， k + 1 ) ] = [ A 1 A 2 A 3 A 4 ] [ x ( t ， k ) y ( t ， k ) ] 其中， x ( t ， k ) ∈ R n 1 ， y ( t ， k ) ∈ R n 2 ， A 1 ∈ R n 1 × n 1 ， A 2 ∈ R n 1 × n 2 ， A 3 ∈ R n 2 × n 1 ， A 4 ∈ R n 2 × n 2 。 设系统的定解条件为 x ( 0 ， k ) = 0 ， k = 1 ， 2 ， 3 ， ⋯ 和 y ( t ， 0 ) ， t ∈ [ 0 ， T ] ，如果矩阵 A 4 是稳定的，则 lim k → ∞ [ x ( t ， k ) y ( t ， k ) ] = 0 ， t ∈ [ 0 ， T ] 。 以上定理的证明可以参看文献 [ 8 ] 附录的证明过程。 2.2. 非线性连续系统的建模算法 针对两种不同形式的函数： f ( W 1 ( t ) ， x ( t ) ) = W 1 σ ( x ( t ) ) ， f ( W 1 ( t ) ， x ( t ) ) = σ ( W 1 x ( t ) ) 根据定理及(1-7)式，将会推导出非线性连续系统的实时建模算法。在这里选择向量函数 f 的第一种形式，即 f ( W 1 ( t ) ， x ( t ) ) = W 1 ( t ) σ ( x ( t ) ) (1-10) 将(1-7)式中的函数 f 用(1-10)式代替，并且利用(1-2)式的关系得到 W 1 ( t ， k ) σ ( x ( t ， k + 1 ) ) + Δ W 1 ( t ， k ) σ ( x ( t ， k + 1 ) ) − W 1 ( t ， k ) σ ( x ( t ， k ) ) = K 1 ∂ η ( t ， k ) ∂ t + K 2 ∂ e ( t ， k ) ∂ t (1-11) 由定理以及(1-9)式，可知 e ( t ， k ) 的收敛性与 K 1 没有关系，只与 K 2 有关，只要 I − K 2 稳定即可。为了简便起见，不妨令 K 1 = 0 且 K 2 = I 。于是，根据(1-11)式可推出实时数学模型与(1-10)的建模算法 Δ W 1 ( t ， k ) = ( ∂ e ( t ， k ) ∂ t + W 1 ( t ， k ) ( σ ( x ( t ， k ) ) − σ ( x ( t ， k + 1 ) ) ) )                                     × ( [ σ ( x ( t ， k + 1 ) ) ] T σ ( x ( t ， k + 1 ) ) ) − 1 × [ σ ( x ( t ， k + 1 ) ) ] T (1-12) 2.3. 实时建模算法RAM的实现 在非线性连续系统中，利用数学建模思想将RMA算法与所要追踪模拟的工程问题系统结合起来，根据上面的(1-12)式进行迭代训练连接权矩阵，实时建模也是依赖此式来实施计算的。对非线性连续系统定义域的每一个时刻进行所构成的建模算法RMA的迭代计算，当这一时刻的偏差量 | e ( t ) | 充分小，再循环到下一个时刻进行建模算法RMA的计算，以此循环下去，这样就可以保证将整个非线性连续系统的定义域被遍历完全。