您的位置首页百科问答

什么是加权最小二乘法,它的基本思想是什么

什么是加权最小二乘法,它的基本思想是什么

的有关信息介绍如下:

加权最小二乘法是对原模型进行加权,使之成为一个新的不存在异方差性的模型,然后采用普通最小二乘法估计其参数的一种数学优化技术。

线性回归的假设条件之一为方差齐性,若不满足方差齐性(即因变量的变异程陆咐度会随着自身的预测值或者其它自变量的变化而变化)这个假设条件时,就需要用加权最小二乘法(WLS)来进行模型估计。

加权最小二乘法(WLS)会根据变异程度的大小赋予不同的权重,使其加权后回归直线的残差平方和最小,从而保证了模型有更好的预测价值。

什么是加权最小二乘法,它的基本思想是什么

扩展资料

在多重线性回归中,我们采用的是普通最小二乘法(OLS)估计参数,对模型中每个观测点是同等看待的。但是在有些研究问题中,例如调查某种疾病的发病率,以地区为观测单位,地区的人数越多,得到的发病率就越稳定,因变量的变异程度就越小,而地区人数越少,模悉袜得到的发病率就越大。

在这种情况下,因变量的变异程度会随着自身数值或者其他变量的变化而变化,从而不满旦激足残差方差齐性的条件。

为了解决这个问题,我们采用加权最小二乘法(WLS)的方法来估计模型参数,即在模型拟合时,根据数据变异程度的大小赋予不用的权重,

对于变异程度较小,测量更准确的数据赋予较大的权重,对于变异程度较大,测量不稳定的数据则赋予较小的权重,从而使加权后回归直线的残差平方和最小,确保模型有更好的预测价值。

参考资料来源:百度百科-加权最小二乘法