基于协同进化和反向传播的深度神经网络优化方法

    公开(公告)号:CN106650933A

    公开(公告)日:2017-05-10

    申请号:CN201710022482.4

    申请日:2017-01-12

    CPC classification number: G06N3/084

    Abstract: 本发明提出了一种基于协同进化和反向传播的深度神经网络优化方法,它属于深度学习与进化计算相结合的技术领域,主要解决的是深度神经网络在训练的时候容易陷入局部最优解的问题。其主要步骤是:(1)首先对网络使用反向传播算法进行优化;(2)当满足停止条件,使用协同进化算法进行优化;(3)不断重复上述两步,直到满足迭代停止条件;(4)最终优化得到的权重和偏差为最优参数。本发明将进化算法的优点应用到深度神经网络的训练中,针对大规模的参数,使用协同进化进行优化,同时结合反向传播算法,并且设计一种选择策略,来提高协同进化的优化速度,使得整个网络能够更高效的被训练完成,优化性能好,提高了网络的分类正确率。

Patent Agency Ranking