人类大脑的神经网络的正常运行,要同时依靠空间结构和时间结构。通过错综复杂的连接,神经元中的轴突及树突构成了神经网络的空间结构,神经网络的时间结构是受轴突的长度及突触前后间神经递质的传递影响的。不同位置的神经元之间信息的传递一定会有差异,这与其拥有不同的突触长度和神经递质释放密不可分的。因此时滞在生物神经网络运行中的影响是不可避免的。在硬件的实现中,神经元间信息的传递过程中由于元件有限的开关速度和通信时间致使时滞是客观存在的。
神经网络的各种动力学性质如各种稳定性、散逸性、同步性等被广泛应用于图像处理、模式识别、联想记忆、控制、保密通信和物理学等领域。事实上,神经网络的应用几乎涉及国民经济建设的各个领域,有着很深远的应用前景。由于放大器有限的开关速度和神经元的固有的通信时间时延是不可避免的,它的存在可能会导致系统失稳、振荡性、混沌等,因此研究具时滞的神经网络的动力学更有意义。
1990年,Chua L O和Rosha T为了处理移动图像提出时滞细胞神经网络模型 [16] 。
在此后近30多年中,国内外学者对各种时滞神经网络的若干动力学行为进行了广泛的研究,得到大量的研究成果 [17-45] 。就时滞而言,目前所研究的绝大部分时滞神经网络可分为常时滞的 [17-22] 、变时滞的 [23-30] 、分布时滞的 [31-42] 、混合时滞的 [43-45] 等几种。研究方法主要有Lyapunov稳定性理论、线性矩阵不等式方法、非线性测度、M-矩阵理论、Mawhin延拓定理、Halanay型不等式等。Lyapunov稳定性理论是研究时滞神经网络的动力学行为最常用方法之一,这也是时滞微分方程的稳定性理论中重要的研究方法。由于时滞神经网络具有的良好的动力学性质,如稳定性、混沌、分叉等,使其在图像处理、控制、保密通信、联想记忆和物理学等领域有着理想的应用。关于时滞神经网络动力学的书籍见文献[46-50]。
比例时滞是众多时滞之一,不同于常时滞、有界变时滞和分布时滞,它是时变的且无界的时滞,同时也是一种客观存在,如在计算机网络的QoS(服务质量)算法中通常是要求比例时滞保证的 [51-53] 。由于大量具有不同尺寸轴突的并行路径的存在,使得神经网络通常具有空间属性,在一段时间内,通过引入连续的比例时滞建立模型是值得期待的。因此,根据神经网络的拓扑结构与实际神经网络模型(即电路系统)的材料选择不同,在某些神经网络中引入比例时滞是完全合理的。因此,研究具比例时滞神经网络的动态行为,对实际应用起到了非常重要的理论指导作用。
2011年,周立群首次将比例时滞引入细胞神经网络,对具比例时滞神经网络 [54]
通过非线性变换将具比例时滞的细胞神经网络等价变换为具常时滞变系数的细胞神经网络,利用构造特殊的Lyapunov泛函的方法研究了该系统的全局散逸性。其中 q i , i =1,2为比例时滞因子,满足0< q i <1。比例时滞函数为 τ i ( t )=(1 -q i ) t ,时滞函数与时间 t 成比例,故称比例时滞函数,且当 t →+∞时, τ i ( t )=(1 -q i ) t →+∞,即比例时滞函数是无界的和时变的。正是由于比例时滞函数的这种时变的无界性使得其在具比例时滞神经网络的各种动力学行为准则推导过程中比较棘手,比如一般的Lyapunov泛函、Halanly不等式等方法都较难直接处理比例时滞。
尽管比例时滞和分布时滞都是无界时变时滞,但是两者之间有很大差异。如文献[31-36]中,分布时滞具有的时滞核函数
k
ij
:ℝ
+
→ℝ
+
是非负实值连续函数,且满足
,并且存在一个正数
μ
使得
。正是因为核函数这些条件,使得在稳定性条件的推到过程中,分布时滞相对容易处理。然而,在神经网络动力学行为的推导过程中,与分布时滞相比,在
t
→+∞时,比例时滞函数
τ
(
t
)=(1
-q
)
t
→+∞,且没有其他的条件,使得比例时滞很难处理。另外,除分布时滞外,在具有时滞的神经网络动力学行为的研究中,大多数时滞函数
τ
(
t
)都是要求有界的,如文献[23-30]中要求时滞函数
τ
(
t
)满足0≤
τ
(
t
)≤
τ
和其他条件,使得在稳定性条件的推导过程中,时滞项比较容易处理。而比例时滞函数
τ
(
t
)=(1
-q
)
t
随着时间
t
>0的增长是一个单调无界连续函数,处理起来比较困难,许多常规的研究方法不能直接用来研究具比例时滞神经网络的动力学性质。但是具比例时滞神经网络的优点是可以根据比例时滞因子大小和网络允许的最大时滞来控制网络的运行时间。在比例时滞存在的情况下,确保所设计的网络是稳定的很重要,因为只有稳定的网络才可以被应用。因此,研究具比例时滞神经网络的动力学行为具有重要的理论意义。
目前,关于比例时滞递归神经网络的动力学行为的研究也取得了一些有意义研究成果。文献[55-57]对文献[54]中的模型通过不同的方法,如非线性测度 [55] 、Lyapunov稳定性理论 [56] 及构造时滞微分不等式 [57] 等进行了研究。下面列举一些具比例时滞递归神经网络模型的动力学行为的研究情况。
2013年,文献[58]通过应用内积性质的方法研究模型
得到该系统全局散逸性的充分条件,这种内积的方法对其他时滞神经网络的散逸性研究也提供了新思路、新方法。2014年,文献[59]应用构造Lyapunov泛函方法研究了该系统的全局渐近稳定性。
同年,文献[60]通过应用矩阵理论和Lyapunov稳定性理论研究模型
得到该系统时滞依赖的全局指数稳定性的充分条件。2016年,文献[61]通过构造Lyapunov泛函和时滞微分不等式研究了该系统的全局指数周期性与稳定性。
2014年,文献[62]通过应用矩阵理论和Lyapunov稳定性理论研究模型
的全局渐近稳定性。
同年,文献[63]讨论了具比例时滞杂交双向联想记忆神经网络
利用Brouwer不动点定理和构造时滞微分不等式,得到了确保系统全局指数稳定的时滞独立的充分条件。文献[64]考虑上述模型当 p j = q 1 , q j = q 2 时,利用矩阵范数性质及构造时滞微分不等式方法研究该模型的全局指数稳定性。
2015年,文献[65]讨论了具比例时滞高阶神经网络
基于Lyapunov稳定性理论,利用矩阵测度和推广的Halanay型不等式的方法,得到了保证系统 p 阶指数稳定的充分条件。同年,文献[66]以
为驱动系统,以
为响应系统,其中 u i ( t )表示控制输入,通过构造适当的Lyapunov泛函,研究了该驱动-响应系统的全局同步性。
2016年,文献[67]讨论了具比例时滞竞争神经网络
通过不动点定理与构造时滞微分不等式的方法,给出该系统平衡点存在唯一及指数稳定的充分条件。
2016年,文献[68]讨论了如下具比例时滞脉冲递归神经网络
通过应用固定点定理和一些不等式的分析技巧,获得了两个新的保证系统平衡点存在唯一且全局指数稳定的新的充分条件。
2017年,文献[69]利用构造Lyapunov泛函,研究了带Markov(马尔可夫)跳的具比例时滞脉冲递归神经网络
的时滞依赖的指数稳定性,其中 { r ( t ), t ≥1} 表示右连续的Markov过程。
同年,文献[70]对随机具比例时滞神经网络
初始条件为
x
i
(
s
)=
φi
(
s
),
s
∈[
q
,1],
,通过构造Lyapunov-Krasovskii泛函,应用随即分析理论和Itô公式,得到该系统的输入状态的均方指数稳定性。文献[71]讨论了具多比例时滞忆阻神经网络模型
的无源性,通过应用微分包含理论,获得了一些保证该系统无源性的充分条件。
2018年,文献[72]通过构造Lyapunov-Krasovskii泛函和矩阵不等式方法讨论了
具比例时滞脉冲递归神经网络的时滞依赖和时滞独立的无源性。
与此同时,国内外的一些学者对具比例时滞的神经网络的研究给予了关注。Hiena和Son [73-74] 通过建立时滞微分不等式、微分不等式的比较方法和M-矩阵理论,研究了具比例时滞的神经网络的有限时间稳定性和散逸性。Yu、Liu和Xu等 [75-78] 应用时滞微分不等式的方法研究了几类具多比例时滞细胞神经网络和一般双向联想记忆神经网络的有限时间稳定性和全局指数收敛性。Zheng、Li和Cao [79] 应用Lyapunov泛函、矩阵测度和广义Halany不等式研究了具比例时滞高阶网络的稳定性。Feng、Wu和Wang等 [80] 应用Lyapunov泛函理论和不等式技巧,研究了一类具比例时滞神经网络的指数同步性。Song、Zhao和Xing等 [81] 利用非线性测度的方法研究了具多比例时滞和脉冲的细胞神经网络的全局渐近稳定性。Wang、Li和Peng等 [82] 应用微分包含的方法研究了具比例时滞忆阻神经网络的反同步性,得到时滞相关的反同步性判据。在文献[83-86]中,通过构造Lyapunov泛函,分析了具比例时滞神经网络的无源性、同步性、全局渐近稳定及鲁棒性等。
目前具比例时滞神经网络动力学行为的研究还比较缓慢,一方面受比例时滞微分方程理论研究发展水平的制约,另一方面,当时间趋于无穷时,比例时滞函数也趋于无穷,且没有其他条件的限制,在具体的推导过程中不容易处理。尽管分布时滞与比例时滞都是无界时滞,但它们却有很大的区别。就分布时滞而言,它的延迟核函数具有良好的性质使得分布时滞项在不等式的具体推导中比较容易处理。虽然分布时滞也是无界时滞,且分布时滞神经网络的动力学研究相对成熟,但是还有一定的不足,目前所得到的具分布时滞的神经网络的动力学判定准则基本上都是时滞独立的,即与时滞的大小无关。这并不能完全反映网络运行过程中对时滞的依赖性关系。而比例时滞能比较好地解决这样的问题。具比例时滞神经网络可以根据比例时滞因子的大小,确定网络时滞的大小,进而可以根据网络所能允许的最大时滞合理地确定网络运行时间。另外,所得到的动力学性质(如稳定性准则)可以是时滞依赖的,也可以是时滞独立的。这样就可以根据网络的实际情况运用相应的判定准则判定该网络是否是稳定的。正是由于这种良好的特性,才促使我们对具比例时滞神经网络的动力学行为进行研究。
在事物的发展和变化过程中,时滞通常是不可避免的,即使在以光速传递的信息系统中也不例外,又如传染病的潜伏期,弹性力学中的滞后效应等。事物的发展进程一定程度上会受时滞影响。一般情况下,时滞可使系统性能变差,甚至失稳。从研究的角度来看,时滞的存在会给系统的稳定性分析和控制器的设计等带来很大的困难。对于微分方程来说,时滞的存在影响着方程解的性质。一般时滞微分方程用于描述依赖当前和过去历史状态的动力学系统,在物理、工程、信息、经济、化学以及生物数学等领域都有着非常重要的作用。因此,这使得人们对时滞微分系统产生了浓厚的研究兴趣,并得到了丰硕的研究成果。
俄国数学力学家Lyapunov对时滞微分方程的稳定性理论的研究做出了突出贡献,1892年,Lyapunov的博士论文《运动稳定的一般问题》给出了研究稳定性的一种非常有效的方法,被后人称为Lyapunov直接方法,亦称为Lyapunov第二方法,从而建立了稳定性理论研究的框架。目前它仍是研究时滞微分方程稳定性的主要方法。这种方法的优点是可以在没有得到方程具体解的情况下,就可以确定方程解的稳定性。随着时间的推移,特别是大系统理论、自动控制、空间技术和生物数学等的出现,使得稳定性理论飞速发展,众多学者为稳定性理论的研究奠定了坚实的基础,使其形成了一套比较完善的理论。
时滞系统不能用微分方程来描述,而是需要用微分差分方程,也称为时滞微分方程,或具有偏差变元的微分方程。下面给出时滞微分方程的稳定性定义及稳定性理论。
一般形式的滞后型微分差分方程 [86-88] 形如
系统(1-7)的初始条件为
y ( t )= φ ( t ), t ∈[ t 0 -τ , t 0 ]
其中,
,
φ
(
t
)足够光滑,保证柯西问题解存在唯一性。
设 y * 是系统(1-7)的平衡点,做平移变换 x ( t )= y ( t ) -y * ,则式(1-7)改写为
相应地系统(1-8)的初始条件为
x ( t )= ξ ( t ), t ∈[ t 0 -τ , t 0 ]
其中, ξ ( t )= φ ( t ) -y * 。
要证系统(1-7)的平衡点 y * 的稳定性,可通过就证明系统(1-8)的零解 x = 0 的稳定性来确定。下面给出相关的稳定性的定义,这些定义引自文献[88]。
定义1-2
称系统(1-8)的零解稳定,若对任意
ε
>0,
t
0
∈
I
,存在
δ
(
ε
,
t
0
)>0,使得对任意
ξ
(
t
),
t
∈[
t
0
-τ
,
t
0
],当
时,有
定义1-3
称系统(1-8)的零解是吸引的(一致吸引的),若存在
σ
(
t
0
)>0(
σ
>0),对任意
η
>0,存在
T
(
t
0
,
η
)
>0(
T
(
η
)
>0),使得当
,
t
≥
t
0
+
T
时,有
定义1-4
称系统(1-8)的零解一致稳定,若对任意
ε
>0,
t
0
∈
I
,存在
δ
(
ε
)>0,使得对任意
ξ
(
t
),
t
∈[
t
0
-τ
,
t
0
],当
,
t
≥
t
0
时,有
定义1-5
称系统(1-8)的零解渐近稳定,若系统(1-8)的零解是稳定的,且存在
δ
(
t
0
)>0,对任意
ξ
(
t
),
t
∈[
t
0
-τ
,
t
0
],当
时,有
定义1-6
称系统(1-8)的零解一致渐近稳定,若它一致稳定,且存在
σ
>0(
σ
不依赖于
t
1
,
t
1
>
t
0
),对于任意
ε
>0,存在
T
(
ε
)>0(不依赖于
t
1
),当
t
>
t
1
+
T
(
ε
),
时,有
如果系统(1-8)的零解为稳定的和吸引的,则它是渐近稳定的;如果系统(1-8)的零解为一致稳定的和一致吸引的,则它是一致渐近稳定的。
定义1-7 称系统(1-8)的零解为全局渐近稳定,若它是稳定的,且对任意初始函数 ξ ( t ),有
定义1-8
称系统(1-8)的零解指数稳定,若对任意
ε
>0,存在正数
λ
>0和
δ
(
ε
)>0,使得当
时,对于
t
≥
t
0
,
t
0
∈
I
,有
定义1-9
称系统(1-8)的零解全局指数稳定,若对任意
σ
>0,
λ
>0,
M
≥1,使得当
时,对于
t
≥
t
0
,
t
0
∈
I
,有
定义1-10
[89]
称系统(1-8)的零解多项式稳定,若对任意
ε
>0,存在
λ
>0和
δ
(
ε
)>0,使得当
时,对于
t
≥
t
0
,
t
0
∈
I
,有
定义1-11
[89]
称系统(1-8)的零解全局多项式稳定,若对任意
σ
>0,存在
λ
>0,
M
≥1,使得当
时,对于
t
≥
t
0
,
t
0
∈
I
,有
设 Ω 是包含原点的 n 维开邻域,令 I =[0,+∞),函数 W ( x )∈ C ( Ω ,ℝ), V ( x , t )∈ C ( Ω ,ℝ)。下面给出函数正定(负定),半正定(半负定)及Lyapunov函数等的定义 [9,89] 。
定义1-12 称函数 W ( x )在 Ω 上正定(负定),若 W ( x )≥0( -W ( x )≥0),且当且仅当 x = 0 时, W ( x )=0。
正定和负定的函数 W ( x )都称为Lyapunov函数。
定义1-13 称 W ( x )在 Ω 上半正定(半负定),若 W ( x )≥0( -W ( x )≥0),且 W ( x )=0有非零解。
定义1-14
称
W
(
x
)是无穷大正定函数,若对于正定函数
W
(
x
)∈
C
(ℝ
n
,ℝ),当
时,
W
(
x
)→∞有非零解。
定义1-15 称函数 V ( x , t )在 Ω × I 上正定(负定),若存在正定函数 W ( x ),使得 V ( x , t )≥ W ( x )( -V ( x , t )≥ W ( x )),且 V ( 0 , t )≡0。
为了方便,考虑系统(1-8)的简洁系统(含有一项时滞项)
其中 x ∈ℝ n , f ∈ C [ I ×ℝ n ×ℝ n ,ℝ n ], f ( t , 0 , 0 )≡ 0 ,0≤ τ ( t )<∞。
定义1-16 称 V ( x , t )∈ C ( Ω × I ,ℝ)在 Ω × I 上有无穷小上界,若存在正定函数 W 1 ( x )∈ C (ℝ n ,ℝ),使得
| V ( x , t )|≤ W 1 ( x ( t ))
称 V ( x , t )在 Ω × I 上有无穷大下界,若存在无穷大正定函数 W 2 ( x ),使得
V ( x , t )≥ W 2 ( x )
定理1-1
若在某区域
上,存在正定函数
V
(
x
,
t
),且
特别的,
,则系统(1-9)零解稳定。
定理1-2 若在某区域 G H 上,存在具有无穷小上界的正定函数 V ( x , t ),且
特别的,
,则系统(1-9)零解一致稳定。
定理1-3 在某区域 G H 上,若存在具有无穷小上界的正定函数 V ( x , t ),且
特别的,
,则系统(1-9)零解一致渐近稳定。
定理1-4 在某区域 G H 上,若具有无穷小上界的无穷大正定函数 V ( x , t ),且
成立,则该系统(1-9)的零解全局一致渐近稳定。