0%

梯度消失的原因

2019年3月11日 下午4:18
详解机器学习中的梯度消失、爆炸原因及其解决方法 - Double_V的博客 - CSDN博客

求梯度的对象是损失函数:

两种梯度问题:

统一网络中,不同隐藏层的学习速率是不同的额

附:

不同激活函数对梯度消失的影响