含L1正则项的最优化问题求解:Shooting Algorithm

前言

Shooting算法是W.J.Fu在1998年提出的,原始论文为《Penalized Regressions: The Bridge Versus the Lasso》,是一种针对包含L1正则项的最优化问题(如LASSO)的快速求解方法,据称效果与流行的LARS(Least Angle Regression)不相上下(或者更好)。本文主要参考《A tutorial on the LASSO and the ”shooting algorithm”》,介绍Shooting算法,并由此推广到Rotated Sparse Regression的问题求解上。