Tuesday, January 5, 2016

选择一个有用的理念(23)

.
训练和测试

一旦事实被选定后、就在训练期间把它连续地引入神经网络。允许网络在模拟一个问题时采用内在表达的权重,这些权重一般都初始化为一些比较小的随机分配的权重。如果初始的权重被设置成相同的值.网络可能就永远无法学习了,因为误差的改变与权重值是成比例的。每次通过训练集时,网络都对每个输出层的输出计算实际输出与理论输出之间的误差大小,然后这些误差就通过网络一层一层地向后传播,并且为了使与每个输出有关的整体误差最小化,还需要不停改变神经元之间的权重关系。

每次权重改变时,网络就在表示整体误差空间的多维表面上迈一步:在训练期间,网络就在表面上穿行,力图找到最低点或者最小误差点、权重的改变与被叫做“ 学习速率 ”的训练参数成比例,在训练过程中可以调整的其他训练参数包括温度、收入和噪音等。

有了各种训练参数、预处理方法和可以探索的体系结构的配置,就需要一个结合了测试和训练的自动的训练和测试制度。类似于遗传的运算法则和模拟退火工具。这个制度可以加速对这些参数空间的寻找过程。遗传运算法则对很多参数优化任务来说都是很有效的。在训练期间,模拟退火通过引入一个影响学习速率的变化的温度条件来使学习速率的调整自动化。温度高时,学习速率就很快,而当温度降下来时,由于网络要了结一个解决方案,学习速度就降下来。

误差统计

另一个重要的网络设计决策关系到使用哪种误差统计方法进行训练和测试。一种测度方法可能是类似移动平均值的实际统计计算与网络输出之间的差别。对测试集中的每个事实都要进行这种差别的计算,然后对结果求和,并除以测试集中的事实总数,这是一种标准的误差测度方法,叫做“ 平均误差 ”。各种误差测度包括绝对值平均误差、平方和误差和均值平方根误差。选定了一个网络模型后,就需要进行周期性的再训练,利用正在进行中的研究来修改输入、输出、体系结构和测试训练过程的全部工具,以便提高网络表现和预测的正确性。

一个有效的神经网络金融预测应用的设汁是无法预料的,除非你有相当多的交易经验、编程和数学方面的专门知识,以及能够投入到这个任务上的时间。成功的神经系统网络开发是对“ 艺术 ”和“ 科学 ”两者的结合。即使是对于一群共同工作的专家来说,这种努力也是极其耗费时间和体力的。


(作者:范·K·撒普博士)
.

No comments:

Post a Comment