#computational-graph

《深度学习入门》的cpp实现-ch05: 误差反向传播法

上一节使用梯度更新的方法求神经网络的参数的梯度，虽然可行，但是耗时很多。这篇文章我们使用计算图(computational graph) 来进行计算损失函数对神经网络参数的梯队。 计算图 计算图是将计算过程用图形表示出来，将计算的的从左向右计算, 即由数据推理出结果，称为正向传播；将从右向左的传播，即由损失函数计算参数梯度，称为反向传播。 好处 使用计算图可以聚焦于局部计算，无论全局计算多么复杂，各个步骤只需要对输入输出做简单的计算。通过节点(算子)间的传递，可以获取全局复杂计算的结果。 使...