问:
岭回归和Lasso回归模型的比较
答:
Rdige和Lasso都是对线性模型中的w做惩罚
惩罚的力度不一样,相同lambda下,Lasso惩罚的力度更加大一些
在比较大的lambda下,Rdige模型中w的解都是接近0,而不是直接-0。Lasso中,很多w值直接被压缩成0
因为Lasso可以直接来优先将不重要的特征的w压缩成0,所以可以达到特征筛选的效果
Lasso和Ridge复杂的方向是一样,lambda越小,模型越复杂,过拟合的方向。lambda越大,模型越简单,欠拟合的方向
最终都是尝试去做调优,尝试交叉验证的方式,去找到适合某一份数据最好的一个惩罚项