下载掌阅APP，畅读海量书库
立即打开
|
3.2 遗传算法与BP神经网络的结合 |
通过对基于数据驱动的健康状态诊断方法基础理论的介绍，我们了解到：在智能控制领域中，B P神经网络以其简单的结构、易于编程等特性在控制领域中得到了广泛的应用。然而标准BP算法采用了基于梯度下降的训练算法，使其在实际应用中出现诸如训练时间长、易陷入局部极小值等问题。
作为一种全局优化搜索算法 [8～11] ，遗传算法在许多复杂问题的求解中表现出其他优化算法所不可替代的优越性，但它是一种随机搜索算法，使得算法本身全局收敛性的理论亟待解决。遗传算法容易受种群规模、适应度函数、遗传算子等因素影响，致使算法出现早熟或根本不收敛的问题。
应对实际问题，神经网络拓扑结构的设计需要一种高效的、自动的设计方法，但是直到现在依然没有什么严格的设计原则，这一问题耗费了众多学者大量的时间和精力。作为一种全局优化算法，遗传算法开辟了这么一条途径。将遗传算法与人工神经网络融合使用，使得网络的泛化能力更好地发挥，同时还能加快网络的收敛速度、加强网络的学习能力。
随着研究的深入，人工神经网络和遗传算法都已经渗透到各个领域，并在许多学科领域的应用中取得了巨大的成功。一般地，遗传算法都作为优化算法使用，目前为止，它与神经网络结合的方向大致可分为如下三种类型 [12] ：
（1）优化网络连接权值、阈值；
（2）优化网络的拓扑结构；
（3）优化网络的学习规则。
1 .优化神经网络连接权值、阈值
通过第2章我们知道，标准BP算法对权值、阈值是十分敏感的，不同值会产生完全不同的结果。使用遗传算法优化网络的连接权值，可以有效地克服诸如网络振荡不收敛、训练时间长、极易陷入局部最优值的问题。具体的优化过程描述如下：
（1）随机产生一组数据，对应于网络的权值和阈值，采用适当的方案对其进行编码，形成一个编码串；
（2）加载训练样本数据，并计算适应度值，以此作为连接权值、阈值优劣的评价标准；
（3）选择适应度值最优的个体，采用相应的选择进化策略遗传给下一代；
（4）经遗传算子的作用，产生下一代群体；
（5）判断是否达到训练目标，否则重复步骤（2）～（4），使权值、阈值编码串不断得到调整；
（6）将达到要求的适应度最大的个体作为优化好的网络权值、阈值输出。
2 .优化神经网络的拓扑结构
网络的拓扑结构的优劣程度直接影响算法的处理能力，过多的网络节点，增加网络训练时间的同时，还可能导致“过拟合”现象的发生；而网络节点太少，又达不到记忆的目的，影响网络的泛化能力。优化各层神经元节点数目的具体过程可描述为 [13～15] ：
（1）随机产生一组拓扑结构，并用二进制编码方式对其进行编码，使得每个结构是由0、1字符串构成，其中0表示为节点间无连接，1表示节点间有连接；
（2）对网络进行训练；
（3）确定适当的适应度函数和误差函数，并计算适应度值；
（4）经过遗传算子的作用，产生下一代种群；
（5）判断当前种群中是否有满足条件的个体，否则重复步骤（2）～（4），使编码串不断得到进化调整；
（6）输出最优编码串，即为最优拓扑结构。
3 .优化网络的学习规则
神经网络训练的学习规则，都是根据目标问题、按照先验知识预先设置好的，但却不一定合理。到目前为止，对学习规则的优化还没有成功的范例。
使用遗传算法优化网络的学习规则，使其更能适用具体的问题，首先要解决的问题是对学习规则的编码问题。具体的优化过程描述如下：
（1）随机产生一组代表学习规则的个体集，利用某种编码方式对其进行编码（一般采用符号编码），每个编码方式对应一条学习规则；
（2）构造一个训练集（每个元素代表一个拓扑结构和连接权值），然后分别对训练集中的每个元素使用学习规则进行训练；
（3）确定合适的适应度函数，并计算每个学习规则的适应度值；
（4）对每个学习规则进行遗传算子操作，产生下一代种群；
（5）判断当前群体中是否有满足条件的个体，否则重复步骤（2）～（4）；
（6）将满足条件的最优个体经反编译后输出，即为优化好的学习规则。