ラッソ回帰
min β 0 , β { ‖ y − β 0 − X β ‖ 2 2 } subject to ( 1 − α ) ‖ β ‖ 1 + α ‖ β ‖ 2 2 ≤ t , where α = λ 2 λ 1 + λ 2 . {\displaystyle {\begin{aligned}\min _{\beta _{0},\beta }\left\{\left\|y-\beta _{0}-X\beta \right\|_{2}^{2}\right\}&{\text{ subject to }}(1-\alpha )\|\beta \|_{1}+\alpha \|\beta \|_{2}^{2}\leq t,\\&{\text{ where }}\alpha ={\frac {\lambda _{2}}{\lambda _{1}+\lambda _{2}}}.\end{aligned}}}
この問題は単純なラッソ回帰の形式で記述できる。
min β ∗ ∈ R p { ‖ y ∗ − X ∗ β ∗ ‖ 2 2 + λ ∗ ‖ β ∗ ‖ 1 } {\displaystyle \min _{\beta ^{*}\in \mathbb {R} ^{p}}\left\{\left\|y^{*}-X^{*}\beta ^{*}\right\|_{2}^{2}+\lambda ^{*}\|\beta ^{*}\|_{1}\right\}}
ただし、
データポイント x i {\displaystyle x_{i}} のスカラー平均を x ̄ {\displaystyle {\bar {x}}} 、応答変数 y i {\displaystyle y_{i}} の平均を y ̄ {\displaystyle {\bar {y}}} と記載すると、 β 0 {\displaystyle \beta _{0}} の推定値 β ^ 0 = y ̄ − x ̄ T β {\displaystyle {\hat {\beta }}_{0}={\bar {y}}-{\bar {x}}^{T}\beta } を用いて下記のように記述できる。
y i − β ^ 0 − x i T β = y i − ( y ̄ − x ̄ T β ) − x i T β = ( y i − y ̄ ) − ( x i − x ̄ ) T β , {\displaystyle y_{i}-{\hat {\beta }}_{0}-x_{i}^{T}\beta =y_{i}-({\bar {y}}-{\bar {x}}^{T}\beta )-x_{i}^{T}\beta =(y_{i}-{\bar {y}})-(x_{i}-{\bar {x}})^{T}\beta ,}
したがって、中央に配置された(ゼロ平均化された)変数を処理するのが標準的である。