象的发生,已有学者在分析了两层网络是如何对一个函数进行训练以后,提出一种选定初始权值的策略:选择权值的量级为S1开T次方,其中S1为第一层神经元数目,利用这种方法可以在较少的训练次数下得到满意的训练结果。
4、学习速率
学习速率决定每一次循环训练中所产生的权值变化量。大的学习速率可能导致系统的不稳定,但小的学习速率将会导致训练较长,收敛速度较慢,不过能保证网络的误差值不跳出误差表面的低谷而最终趋于最小误差值。所以在一般情况下,倾向于选取较小的学习速率以保证系统的稳定性,学习速率选取范围在0.01~0.8之间。对于一个具体的网络都存在一个合适的学习速率,但对于较复杂的网络,在误差曲面的不同部位可能需要不同的学习速率。为了减少寻找学习速率的训练次数以及训练时间,比较合适的方法是采用变化的自适应学习速率,是网络的训练在不同的阶段自动设置不同学习速率的大小。
5、期望误差的选取
在设计网络的训练过程中,期望误差值也应当通过对比训练后确定一个合适的值,这个所谓的“合适”,是相对于所需要的隐含层的节点数来确定。因为较小的期望误差值是要靠增加隐含层的节点,以及训练时间来完成的。一般情况下,作为对比,可以同时对两个不同期望误差值的网络进行训练,最后通过综合因素的考虑来确定采用其中一个网络。
运行结果:
1、开始界面:
4
2、选择1,设置网络参数
3、按回车,选择2输入训练样本:
5
4、回车,运行:
5、仿真结果误差:
6
6、进行测试:
7