0%

整理- 2019年12月31日

2019年6月16日 上午1:24

机器学习三要素:

一:【模型的种类与建立(写代码阶段)】

知识点(概念汇总-2018)这一篇整理基本上都是从模型的角度去整理的

1.卷积

全卷积相关知识汇总

2.典型模型:重要概念要分清

受限玻尔兹曼机(RBM)
生成模型、判别模型
概率图模型、结构学习模型
Re-understand RNN LSTM GRU
模型融合
集成学习
理解stack

3.重要问题的理解:

计算机视觉-艾2Weight_Initialization+Batch_Normalization
单个神经元无法解决XOR问题
在没有隐藏层下,神经元只能进行直线分割

二:【loss-function(score function/cost function)】

摘抄:怎么解决过拟合与欠拟合
摘抄:过拟合问题

三:【模型求解:(训练阶段)】

机器学习的模型求解好像本来就不多:最多的就是反向传播(链式法则不断阶段求导)
梯度消失的原因
不同激活函数对梯度消失的影响
计算机视觉-艾2 中的三种Optimization部分和反向传播中的概念

数学知识点:

计算公式

上采样和PixelShuffle+计算公式

指标:

评价指标之:AUC

求导

sc231n:SVM & Softmax 公式梯度推导

矩阵

矩阵求导
混淆矩阵

概率

条件概率推导贝叶斯定理
全概率+贝叶斯公式讲解
极大似然估计详解

特征工程+工具

CAM原理
unbalance data
衡量GPU的计算能力
weka-学习资料和使用操作
转:PyCharm+Docker:打造最舒适的深度学习炼丹炉
特征工程与竞赛

宏观对比理解:

袁进辉:深度学习引擎的最优架构
神经网络入门 - 阮一峰的网络日志
你的神经网络不起作用的37个理由
王川:深度学习有多深】多深度学习的发展有了比较本质、整体的认识
提高看待问题的品味
机器学习中要用到的几种思维:如何更加宏观的思考
机器学习本身的缺陷
从特征的角度去对比sift和深度学习
同 一个分类问题-2个数学角度解决
从提取特征的角度去理解深度学习