全连接层的作用意义+扩展深度学习的深度和宽度

2018年8月17日 下午3:52

全连接层的作用是什么？ - 胡孟的回答 - 知乎

https://www.zhihu.com/question/41037974/answer/150585634

1. 最后总结就是，卷积神经网络中全连接层的设计，属于人们在传统特征提取+分类思维下的一种”迁移学习”思想，
2. 但在这种end-to-end的模型中，其用于分类的功能其实是被弱化了，而全连接层参数过多的缺点也激励着人们设计出更好的模型替代之达到更好的效果。同时，也将促进我们更深入地探讨其中的奥秘。

深入理解卷积层，全连接层的作用意义 - CSDN博客

1. 也是按着特征提取+分类思维去分析问题
2. 这种理解方式就是感觉，其实不能说是从分类的角度去思考，而是从组合的角度去思考
3. 我是觉得这种理解方法让人觉得符合人的直觉，让人容易接受。但是需要注意的是：从这只猫进入程序之后，他就变成一堆数字了，站在计算机的角度，他是不知道胳膊腿的，知道无穷的数字。这让我想起来向世明老师对深度学习的总结：他的确是不好理解，但是深度学习他学习的是一种映射关系，他是在积累这些映射关系，他学习的并不是猫长啥样。人是对颜色和位置关系敏感的，但是计算机只对数字敏感。

理解：

1. ::卷积是对特征的提取，池化是对特征的选择，全连接是对特征的展开::，将立体变成条形码，进行一的组合，并且还可以输入到softmax中