登录
  • 欢迎访问Turnitin香港中文官网,在此您可方便浏览Turnitin相关资讯,并且可免帐号,不收录地进行论文自助查重哦!

数学丨符号约束下的广义线性模型Oracle不等式

检测资讯 admin 603次浏览 0个评论

导读:

近20年间各国学者不断提出各种稀疏恢复分析法。其中,基于正则化的稀疏回归方法可见于如下出版物:Lasso Tibshirani (1996)、group Lasso Yuan 和 Lin (2006)、adaptive Lasso Zou (2006)、square-root Lasso Belloni et al. (2011)、SCAD Fan 和 Li (2001)、MCP Zhang (2010)和bridge regression Frank 和 Friedman (1993)。但上述方法多数都需要选择调试参数,而这一选择过程会产生显著的计算负担,即使克服了计算负担这一难题,分析结果也摆脱不了对于调试参数的极度依赖。

与基于正则化的稀疏回归方法不同,基于约束的回归系数符号约束法(NNLS)应用于优化问题 中时,无需选择调试参数。Lawson 和 Hanson (1974)、Bruckstein et al. (2008)、Donoho 和Tanner (2010)、Wang 和 Tang (2009)、Wang et al. (2011)等均对某些特定条件下式(1.2)中解的单值性进行了研究,在某些正则化条件下,上述研究显示仅用符号约束法即可进行稀疏估计,而无需额外的正则条件。此外,Meinshausen (2013) 及Slawski和Hein (2013)从统计视角,在高斯随机误差的设定下研究了NNLS估计量。统计领域对于NNLS估计量的研究由来已久,而Meinshausen (2013)及Slawski 和 Hein (2013)得出的一个重要结论为符号约束法自身可与Lasso等正则化方法一样有效,并给出了此种有效的一系列前提。并且,Meinshausen (2013) 及Slawski和 Hein (2013) 还分别在不同的条件和假设下推导出用于相关回归系数估计的oracle不等式。

本文旨在拓展Meinshausen (2013) 及Slawski和Hein (2013)的成果,将其推广至更为广泛的通用设定,以应用凸损失函数和与解释变量有关的反应变量。

在金融实践中,符号约束逻辑回归模型即属于上述设定的一种,其用于开发一种信用评估模型,评估公司和个人的信誉度。Takano et al. (2018)为此模型提出了符号约束逻辑回归,但并未分析符号约束逻辑回归或广义线性模型的统计学特性。而在van de Geer (2007, 2008)、Koltchinskii (2009)、Caner 和 Kock (2016)等文献中则对上述统计学特性进行了基于正则化的估计值研究。本文模拟上述文献中的环境设定,推导出符号约束经验损失最小化的oracle不等式。

通过模拟相关文献的环境设定,研究了凸损失函数下符号约束回归的理论特性。

在所谓的满足传统兼容性的正特征值条件下导出了适用于预测误差和q∈[1, 2]系数估计  误差的oracle不等式,并将此结果应用于逻辑回归和分位数回归。此外,本文还进行了数值模拟分析,通过比较法评估了符号约束回归的表现及适用场景。


Turnitin香港中文官网编辑整理文章丨本网站采用BY-NC-SA协议进行授权 , 转载请注明数学丨符号约束下的广义线性模型Oracle不等式
喜欢 (1)
[]
分享 (0)

您必须 登录 才能发表评论!