最小二乘法fit非线性曲线，Gauss-Newton方法

[verdelite]

Wiki上描述得很简洁，公式、过程都很方便。

这里非线性指的是对参数是非线性的。

思路就是对residue做线性最小二乘法fit。这个线性的由来是对非线性方程（针对各参数）进行一次近似得到的。然后用得到的结果对参数进行更新然后再重复这个过程（迭代），如此直到收敛。

别的方法也可以有。我以前用过手工目测迭代二分法。。。

[FoxMe]

和牛顿法求根有什么关系？牛顿法根本不是牛顿发明的，是别人把它叫做牛顿法，因为用到了导数。

[FoxMe]

噢，就是牛顿法的推广。

[Zephyrca]

能不能写个英文的名称，看不懂中文专业名称

[verdelite]

能不能写个英文的名称，看不懂中文专业名称

Least square methods to fit nonlinear functions: the Gauss-Newton algorithm

[Zephyrca]

原来是least square，我说这最小二乘法是啥意思
统计学的基础理论啊

Least square methods to fit nonlinear functions: the Gauss-Newton algorithm

[FoxMe]

原来是least square，我说这最小二乘法是啥意思
统计学的基础理论啊

不一样。

[eecs_guy]

这个是 LS 法，还有 MN 法，还有 MNLS 法。
MN：Minimum Norm. 最小范数。实际应用中最常用 2-范数。

[nk]

不一样。

统计的线性最小二乘法和这个最小二乘法去fit非线性曲线，Gauss-Newton方法是一样的最小二乘法。

由于是线性，统计的线性最小二乘法一步就得到到结果，而非线性曲线拟合的最小二乘法需要进行很多步的迭代，而其中的每一步就是用统计的线性最小二乘法的公式。