非参数与参数理解
- non-parametric model中参数是distribution free的,参数函数空间是无限维的
- parametric model中对参数的分布是有假定的,参数空间是有限维的
半参数的理解
semi-parametric model 相当于把参数分离了,一部分参数所属空间是有限维的,剩下的部分是无限维的。
为什么要这么分?因为有限维的容易研究。所以虽然这个意义上,semi 是属于 non 的(有限加无限还是无限),但是研究它们的方法完全不同(因为 non 的情形太难搞),通常 semi 的情形我们只重点研究有限维的那部分。Source
半参数回归的理解
要说半参数回归,就要明白参数回归和非参数回归。
参数回归是事先假定模型的形式,然后用数据去估计这个模型的系数。
非参数回归则是不假定模型形式,直接从数据来拟合模型。
参数回归最基本的是线性模型,非参数回归最简单的最近邻方法。
而半参数回归则是,模型中有一部分的结构是已知的,需要估计参数,而另外一部分结构未知。半参数回归种类非常多,除了cox回归外,MARS,gam应该都是半参数回归。Source