上传者: sigai_csdn
|
上传时间:2024/8/11 5:25:02
|
文件大小:773KB
|
文件类型:pdf
反向传播算法推导—全连接神经网络
反向传播算法是人工神经网络训练时采用的一种通用方法,在现代深度学习中得到了大规模的应用。
全连接神经网络(多层感知器模型,MLP),卷积神经网络(CNN),循环神经网络(RNN)中都有它的实现版本。
算法从多元复合函数求导的链式法则导出,递推的计算神经网络每一层参数的梯度值。
算法名称中的“误差”是指损失函数对神经网络每一层临时输出值的梯度。
反向传播算法从神经网络的输出层开始,利用递推公式根据后一层的误差计算本层的误差,通过误差计算本层参数的梯度值,然后将差项传播到前一层
本软件ID:10526962