0%

2019年3月14日 下午6:08
卡尔曼滤波器推导与解析 - 案例与图片 - 李小铭 - 博客园

  1. 这篇文章中翻译了一篇外文,还推荐了一些其他的文章

注:这篇文章我是从高翔的书中总结的。

卡尔曼滤波能解决什么问题?

  1. 状态估计的问题(说白了就是求解一些模型中的未知量而已)

卡尔曼滤波和最小二乘法的区别是啥?

  1. 最大的区别在于他们把同一问题站在不同的侧重点上,用了不同的方式进行描述
    1. 卡尔曼滤波:
    2. 最小二乘法:
  2. 并且,最小二乘法是仅仅对观测模型进行分析,而卡尔曼滤波是对观测模型和运动模型的共同分析,
    1. 观测模型得到更新方程与后验概率分布
    2. 运动模型得到预测方程与先验概率分布。
  3. 运动模型:指的是我们根据照片,根据几何模型,恢复出相机位姿和地图的模型。
  4. 观测模型:指的是我们在运动模型之后,对相机位姿和地图进行优化的模型

从原理的角度,卡尔曼滤波是如何得到的?

  1. 看书!p240 p106

并且,我从中也学到的数学建模的方法和步骤

数学建模的方法和步骤

2019年3月14日 下午5:48
SLAM中的优化理论(一)—— 线性最小二乘 - 李小铭 - 博客园
SLAM中的优化理论(二)- 非线性最小二乘 - 李小铭 - 博客园

非线性优化针对的问题:

  1. M>n表示方程数大于未知量数
  2. 模型表示成矩阵A

什么样的问题可以转化为线性优化问题:

  1. 已知:样本
  2. 求:模型
  3. 用两个字概括:拟合

线性与非线性最小二乘的区别:

2019年3月12日 上午10:04

Sift特征点的计算步骤其实没啥意思,重要的是理解为什么要以这样复杂的步骤去寻找特征?

  1. 这个里面要理解一个关键的概念:尺度空间
  2. 尺度空间的性质是核心,我们为了满足理论上尺度空间的性质而设计的sift算法。

SIFT算法详解 - zddhub的专栏 - CSDN博客

尺度空间的概念:

[核心]一个图像的尺度空间:

Sift的步骤:

注:都是围绕关键点展开的

高斯模糊:


2019年3月12日 下午5:38

对全连接层(fully connected layer)的通俗理解 - Machine Learning with Peppa - CSDN博客

直观的表示:

总体理解:

细节理解:

  1. 需要多少个卷积核才可以产生第一层全连接层?
    1. 关键:我们要把一叠图像通过20次卷积转换成一个数,我们要100个这样的数。
      1. 一叠多少图像:20张图像(最后一层卷积层)
      2. 多少数:100个(第一层全连接层)
      3. 20*100个卷积核
  2. 这些卷积和有多少参数需要学习?
    1. (20*100) * (12 * 12)

2019年3月12日 下午2:03

四:总结:【说人话】去【宏观理解】

神经网络难理解的原因以及理解的方法-神经网络理解
网络的宽度和深度-网络的宽度和深度提取不同的特征
RNN->LSTM-RNN-LSTM对比
ML和DL能代替的对象-将度量问题转化为ML_DL
机器学习算法集锦:从贝叶斯到深度学习及各自优缺点-汇总-各类算法优缺点
在机器学习中是如何“训练的”,和深度学习有啥不同?-不同模型的“训练”方式
广义机器学习的整体架构-阶段总结
说说对机器学习的认识-阶段总结
2019年3月4日 上午11:19
目前在机器学习瓶颈
如何设计和评价一个网络结构的好坏
2019年1月10日 下午3:10
不要为了使用ML而使用,要立足于问题
2019年1月10日 下午3:10
如何理解一个网络是如何训练的

一:深度学习:

卷积参数:

卷积核是深度学习自己学习出来的-卷积核是学出来的
TensorFlow strides 参数讨论-代码-strides作用

卷积数学计算的细节:

三维立方体卷积核-三维卷积核
四维卷积的运算法则-四维卷积运算
卷积层输入输出的尺寸-卷积层输入输出的尺寸

激活函数的作用:

激活函数在神经网络中理解-激活函数缘由

全连接层的理解:

对于卷积神经网络中全连接层的理解(有错)-2~n的全连接层
如何使用TensorFlow实现卷积神经网络(参数理解)-卷积网络如果整体看成一个函数之后的参数-第一层全连接层-softmax
全连接层的第一层的作用-第一层全连接层来源
2019年3月12日 下午5:38
全连接层重新整理

loss

loss函数意味着什么-结构性学习-GAN-loss本质

softmax

Softmax可以从两个角度去理解-softmax

训练过程

人工神经网络的训练过程(反向传播的过程)-BP
神经网络(深度学习)中如何训练一条边的权重的-单边权重求解-梯度消失对结果的影响
一个数据,对一个数据的训练流程-代码
batch和全数据集训练的不同-代码-batch
第五课神经网络的程序总结+训练数据的批次-代码-批次batch

二:机器学习

模型的搭建(写代码过程):经典模型:最重要的概念要明确

Adaboost算法原理的过程中不在害怕公式-adaboost
随机森林-决策树中特征数!=节点数-随机森林-boostraping-bagging
与逻辑回归作对比,再理解SVM-逻辑回归函数是SVM二维的一种核函数
理解模型复杂度-过拟合-正则化之间的关系-模型复杂度-正则化
分类算法之决策树-决策树-连续属性值-多数表决
朴素贝叶斯:-连续特征下的贝叶斯
词袋模型-词袋模型-词频矩阵-TF-IDF
对SVM的再次理解-SVM的二维分类
logistics能够分类的原理-逻辑回归和线性回归对比

AL中各个领域建模的共性-常识

模型的求解(训练过程):参数求解、损失函数、梯度

交叉熵损失函数和均方误差损失函数-交叉熵是一种损失函数
梯度下降=学习步长=学习率-ada(SGD问题)
求loss最小值为啥求导数不行?-梯度下降的缘由
调参意味着什么(超参数)-超参数
说说对正则化项的理解-正则化项

三:特征工程(数据)

为啥同样是HOG算法,但是效果天壤之别-特征工程的重要性
归一化概念-归一化的理解
对特征处理的一点点理解-特征工程
对数据的认识-数据本身

2019年3月11日 下午5:03

几何模型:

  1. 像SFM就是一个典型的数学模型

生活模型:

生活模型:其实就是一个对生活的经验进行观察总结,最后数学建模的过程(人性、生活经验等很多都可以建模)

  1. 概率与统计
    1. 贝叶斯(条件概率)模型。
  2. 信息论

2019年3月11日 下午5:01

  1. 我们知道深度学习是端对端的,他不需要进行特征工程这一步骤,特征工程和分类都由这个网络来完成
  2. 那么,我们其实可以把所有的隐藏层都理解为是提取特征点的过程,只不过每个隐藏层提取特征的粒度不一样