求助！！ 如何在ridge regression中预测y值

Mai-lin

用lm.ridge()建立模型后，如何预测test中的y值
是否有相关的函数 或者需要用什么方法公式计算，求各位大虾的帮忙啊~~ 十万火急啊·············
谢谢啦~~~

caowenzhao

用ridge regression可以得到系数的估计。再把新的X值直接带入，就可以得到预测的y值了（这个过程应该和普通线性回归一样）。

至于预测的方差，就不太清楚了。不知道bootstrap可不可以。从原数据中抽取M个伪数据，对每个伪数据用ridge regression估计，得到不同的参数和tunning parameter，然后用新的X带入预测y值。M个伪数据会有M个预测的Y值，平均这M个Y值，就是你的估计。这M个Y值的方差就是估计的方差。（不知道这个方法对不对）。

ridge regression实际上是贝叶斯方法。假设每个系数来自于均值为零，方差一样的高斯分布，得到的后验分布依然是高斯分布。对后验分布用最小二乘法，就和ridge regression完全一样了。