RNN->LSTM

2018年9月28日 下午1:51

1. CNN和RNN的不同：
   1. CNN处理的数据是矩阵(图像)，而RNN中处理的数据是向量。所以通过RNN来处理的数据，一般要通过向量化表示的处理
2. CNN和RNN的相同：
   1. 都是输入深度学习，对数据特征的要求不大
   2. 都是通过反向传播的方法来修改参数
3. RNN和LSTM的区别：
   1. LSTM拥有三个门的特殊的网络结构，而RNN是单一tanh的循环体
   2. 在LSTM中的signal起到的作用就是：对应于每一位数据的重要性，因为signal是一个0~1的概率，这也是引入概率的一个技巧
   3. LSTM有三个共享的权重矩阵，而RNN只有一个
4. 怎样理解权重矩阵？
   1. 权重矩阵其实体现的就是对数据的挑选