JJJYmmm Blog - 拟合
type: channel
link: http://jjjymmm.cn/index.php/tag/%E6%8B%9F%E5%90%88/
items: 计算机视觉|拟合

计算机视觉|拟合
type: item
date: 2023-07-04T15:06:00+00:00
description: 摘要如果说边缘检测只是将给定图像的边缘提取出来，那么拟合就是对这些边缘进行数学建模，得到形式化的数学表示。接下来以最简单的拟合直线为例。最小二乘法损失函数是所有数据点拟合直线的预测值与真实值的差的平方和。可以通过偏导或线代的向量投影得到最优参数，下图为偏导过程与结果。全最小二乘最小二乘有两个问题：首先是无法表示垂直x轴的直线，二是损失函数不能很好表示直线与数据点之间的距离。全最小二乘对此进行了改善，首先修改了直线的表示方式，其次损失函数从纵向距离改为了直线到数据点的垂直距离。求解步骤是：首先通过E对d偏导，得到d的a,b参数表示；再找到$U^TU$矩阵的最小特征值，对应的特征向量就是参数a,b的值(最好情况就是找到特征值0的特征向量，但是矩阵特征值不一定有0，所以退而求其次求最小)全最小二乘的物理意义如下图，就是使所有数据点在直线的垂直方向上的投影最小。鲁棒估计最小二乘容易受到极端数据点的影响。通过变换损失函数，当数据点距离直线越远时，损失会稳定到一个常数，从而减轻极端数据点的影响。$\sigma$是超参数，可以调整拟合对于外点的敏感性，具体见下图。鲁棒最小二乘因为距离不是线性操作，所以最优参数需要通过迭代得到。为了加速迭代，可以使用最小二乘用于初始化。