0%

网络的宽度和深度

发表于 更新于 分类于 阅读次数：
本文字数： 277 阅读时长 ≈ 1 分钟

2018年11月23日 下午3:31

第四范式

  1. 深度
    1. 深度模型在某些问题上从来没有发挥出数据的全部价值，离真正的个性化尚有差距(也就是说失去了微观的特征)
    2. 深度窄网络刻画宏观特征之间的关系
      1. 因为：越深的话，感受野越大，提取的特征越接近的特征
  2. 宽度
    1. 宽度模型则在推理能力上略逊一筹
    2. 利用宽度浅层网络记忆微观特征，但无法刻画微观特征之间的复杂关系
  3. 总结：
    1. 这里关键的问题就是特征的大小
    2. 深度宽了之后你的脸可以提取出鼻子，眼睛。窄了之后只能提取出你的整个脸了
  4. ps：我觉得深度也是可以提取出微观特征的呀，而且有一个深度和宽度的等价关系，也说明了深度的学习能力是比宽度的学习能力强！！！！