叶yyf

2020-09-22   阅读量: 585

统计学

线性回归中,岭回归的作用

扫码加入数据分析学习群

总的来说,解决共线性的问题的⽅法主要有以下两种: 其⼀是在建模之前对各特征进⾏相关性检验,若存在多重共线性,则可考虑进⼀步对数据集进⾏ SVD分解或PCA主成分分析,在SVDPCA执⾏的过程中会对数据集进⾏正交变换,最终所得数据 集各列将不存在任何相关性。当然此举会对数据集的结构进⾏改变,且各列特征变得不可解释。 其⼆则是采⽤逐步回归的⽅法,以此选取对因变量解释⼒度最强的⾃变量,同时对于存在相关性的 ⾃变量加上⼀个惩罚因⼦,削弱其对因变量的解释⼒度,当然该⽅法不能完全避免多重共线性的存 在,但能够绕过最⼩⼆乘法对共线性较为敏感的缺陷,构建线性回归模型。 其三则是在原有的算法基础上进⾏修改,放弃对线性⽅程参数⽆偏估计的苛刻条件,使其能够容忍 特征列存在多重共线性的情况,并且能够顺利建模,且尽可能的保证SSE取得最⼩值。

45.5995 1 0 关注作者 收藏

评论(0)


暂无数据

推荐课程

推荐帖子