最小二乘法原理

在我们研究两个变量(x, y)之间的相互关系时，通常可以得到一系列成对的数据( x₁, y₁.  x₂, y₂.  …    x_m , y_m )；将这些数据描绘在x -y直角坐标系中，若发现这些点在一条直线附近，可以令这条直线方程如(式1-1)。

Y_计= a₀ + a₁ X                      (式1-1)

其中：a₀、a₁ 是任意实数

为建立这直线方程就要确定a₀和a₁，应用 最小二乘法原理 ，将实测值Y_i与利用(式1-1)计算值(Y_计=a₀+a₁X)的离差(Y_i-Y_计)的平方和〔∑(Y_i - Y_计)²〕最小为“优化判据”。

令： φ = ∑(Y_i - Y_计)²                 (式1-2)

把(式1-1)代入(式1-2)中得:

φ = ∑(Y_i - a₀ - a₁ X_i)²                (式1-3)

当∑(Y_i-Y_计)平方最小时，可用函数 φ 对a₀、a₁求偏导数，令这两个偏导数等于零。

亦即：

m a₀ + (∑X_i ) a₁ = ∑Y_i                          (式1-6)

(∑X_i ) a₀ + (∑X_i² ) a₁ = ∑(X_i, Y_i)                    (式1-7)

得到的两个关于a₀、 a₁为未知数的两个方程组，解这两个方程组得出：

a₀ = (∑Y_i) / m - a₁(∑X_i) / m                             (式1-8)

a₁ = [m∑X_i Y_i - (∑X_i ∑Y_i)] / [m∑X_i² - (∑X_i)² )]                 (式1-9)

这时把a₀、a₁代入(式1-1)中， 此时的(式1-1)就是我们回归的元线性方程即：数学模型。

在回归过程中，回归的关联式是不可能全部通过每个回归数据点( x₁, y₁.  x₂, y₂.  …    x_m , y_m ),为了判断关联式的好坏，可借助相关系数“R”，统计量“F”，剩余标准偏差“S”进行判断；“R”越趋近于 1 越好；“F”的绝对值越大越好；“S”越趋近于 0 越好。

R = [∑X_iY_i - m (∑X_i / m)(∑Y_i / m)]/ SQR{[∑X_i² - m (∑X_i / m)²][∑Y_i² - m (∑Y_i / m)²]}        (式1-10) *

在(式1-1)中，m为样本容量，即实验次数；X_i、Y_i分别任意一组实验X、Y的数值。