扫一扫下方二维码,关注本站官方公众号
获取永久解锁本站全部文章的验证码
还能不定期领现金红包

台大李宏毅-- 反向传播算法 Backpropagation-Go语言中文社区

台大李宏毅-- 反向传播算法 Backpropagation


1. 链式法则

这里写图片描述

2. 反向传播算法 实例

这里写图片描述
这里写图片描述

计算前向传播:

这里写图片描述
比如:
这里写图片描述
你会发现,输入值就是前向传播中,要求求解的导数的值。
这里写图片描述

计算后向传播:

这里写图片描述

这里假设,一个样本造成的损失loss是:这里写图片描述
(每个样本有两个输入x1,x2)

综上所述:
这里写图片描述

由上图可得,在反向传输中,在计算过程中,是先算出最末尾的

过程就是:

这里写图片描述
1. 计算

如果是更多层的神经网络

如果是更多层的神经网络,那么为了计算方向传输的

3. 总结

这里写图片描述

版权声明1:本文来源CSDN,感谢博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/MosBest/article/details/79691259
站方申明:本站部分内容来自社区用户分享,若涉及侵权,请联系站方删除。
  • 发表于 2021-06-27 12:24
  • 阅读 ( 502 )
  • 分类:算法

0 条评论

请先 登录 后评论

官方社群