如何设计和评价一个网络结构的好坏

2019年1月8日 上午9:20

机器学习的评价维度

1. Model Issues
2. Algorithm Correctness
3. Implementation Correctness
4. data
   1. 不收敛
5. Zayd’s Blog– Why is machine learning ‘hard’?
   

我认为一个网络的设计可以从这几个角度进行思考

1. 数据角度
2. LOSS角度
3. 网络结构设计的角度

数据的角度

创新和思考问题的角度

LOSS的角度

loss函数意味着什么

网络结构的角度

1. 我对比了pointnet中的网络设计，从本质来说，网络结构设计是站在需求方，从对实际应用的本质理解，倒推我们需要怎样的数据流来训练网络更好的达到效果
2. eg:pointnet
   1. 我们主要为了解决order的问题，想到了用数学中对称函数来解决。我们设计了网络结构来逼近这个对称函数。
   2. 问题—》解决方案—》网络结构。按这样的顺序我们才设计出了新的网络结构
3. 总结：网络结构不是越新颖越好，而是越符合当前问题需求，达到的效果最好。
   1. 这个感觉就像是：我们阅读数学公式时，最核心的是去理解作者的思想。
   2. 同样， 一个网络结构背后的核心同样是作者的思想、要解决的问题 。