使用最小二乘法解决曲线拟合问题

1. 最小二乘法

最小二乘法是解决曲线拟合问题最常用的方法。其基本思路如下：

令，

其中φk (x)是事先选定的一组线性无关的函数，ak是待定系数。最小二乘拟合是寻找合适的ak使每一个自变量 x 对应的测量样本值与拟合函数值之间的距离平方和最小。

具体做法：

① 构造准则函数；

② 求使得

最小的参数

2.直线拟合举例

设样本点分别为（1 , 1.1），（2 , 1.9），（3 , 3.1），（4, 3.9）用最小二乘准则求直线的最优解。

① 设最优解为y=ax+b.

②构造准则函数

则