system: [SYSTEM]

user: 3. 贝叶斯分位数回归 在进行贝叶斯分位数回归模型的参数估计时，需要构建一般线性回归模型，假定回归模型中的误差项服从ALD分布与AEP分布，对此构建相应的似然函数。通过贝叶斯定理、参数先验分布求解该分布的后验分布。由于似然函数的复杂性，为了更快的求解后验分布，采用吉布斯抽样算法的思想。 3.1. 设线性回归模型 y i = β 1 x i 1 + β 2 x i 2 + ⋯ + β k x i k + ε i ，     i = 1 ， ⋯ ， n ;   k = 1 ， ⋯ ， n (3) 其中， x i 为自变量， y i 为因变量， β k 为未知参数向量，误差项 ε i ~ ALD ( 0 ， 1 ， τ ) 和 ε i ~ AEP ( 0 ， σ ， α ， p 1 ， p 2 ) 。 3.2. 非对称拉普拉斯分布似然函数(ALD) 根据假设分位数回归模型的误差项服从ALD分布，其似然函数为： L ( y i | x i T β ， σ ， p ) = p n ( 1 − p ) n σ n exp { − 1 σ ∑ i ρ p ( y i − x i T β ) } (4) 其中， ρ τ ( u ) = u ( p − I ( u < 0 ) ) 。 为了在分位数回归中采用吉布斯算法，因此参考2011年Kozumi和Kobayashi [ 5 ] 在文章中给出的吉布斯抽样方法，对此进行贝叶斯分位数回归参数估计。 3.3. 非对称指数幂分布似然函数(AEPD) Naranjo在2012 [ 6 ] 和2015 [ 7 ] 年对SEP分布和AEP分布进行相关的研究，提出了关于非对称指数幂相关的理论和方法。 设 Y | [ U 1 = u 1 ] ~ U ( μ − α σ Γ ( 1 + 1 p 1 ) u 1 1 p 1 ， μ ) ， U 1 ~ G a ( 1 + 1 p 1 ， 1 ) ，且概率为 α ，和 Y | [ U 2 = u 2 ] ~ U ( μ ， μ + ( 1 − α ) σ Γ ( 1 + 1 p 2 ) u 2 1 p 2 ) ， U 2 ~ G a ( 1 + 1 p 2 ， 1 ) ，且概率为 ( 1 − α ) ，则 Y ~ AEP ( μ ， σ ， α ， p 1 ， p 2 ) 。 根据假设分位数回归模型的误差项服从AEPD分布，其似然函数为： L ( y ， x ， u 1 ， u 2 | β ， σ ， α ， p 1 ， p 2 ) = ∑ i = 1 n 1 σ { exp ( − u 1 ) I [ x i T β − α σ Γ ( 1 + 1 p 1 ) u 1 1 p 1 < y i < x i T β ]         + exp ( − u 2 ) I [ x i T β < y i < x i T β + ( 1 − α ) σ Γ ( 1 + 1 p 2 ) u 2 1 p 2 ] } (5) 其中， y = ( y 1 ， ⋯ ， y n ) T ， u 1 = ( u 11 ， ⋯ ， u 1 n ) T ， u 2 = ( u 21 ， ⋯ ， u 2 n ) T ， x = ( x 1 ， ⋯ ， x n ) T ， β = ( β 1 ， ⋯ ， β n ) T 。 根据贝叶斯定理，参数的联合后验密度为： P ( u 1 ， u 2 ， β ， σ ， α ， p 1 ， p 2 | y ， x ) ∝ f ( β ) f ( σ ) f ( α ) f ( p 1 ) f ( p 2 ) σ − n       × ∑ i = 1 n ( exp ( − u 1 ) ∑ i = 1 n 1 σ { exp ( − u 1 ) I [ x i T β − α σ Γ ( 1 + 1 p 1 ) u 1 1 p 1 < y i < x i T β ]       + exp ( − u 2 ) I [ x i T β < y i < x i T β + ( 1 − α ) σ Γ ( 1 + 1 p 2 ) u 2 1 p 2 ] } ) (6) 其中， f ( β ) ， f ( σ ) ， f ( α ) ， f ( p 1 ) ， f ( p 2 ) 均为待估参数的先验密度函数。 设定参数的先验分布为： { u 1 ， u 2 ~ E x p ( 1 ) σ ~ I G ( a σ ， b σ ) α ~ B e t a ( a α ， b α ) p 1 ， p 2 ~ N ( a p i ， b p i ) β ~ N k ( b ， B ) (7) 其中， E x p ( 1 ) 为参数为1的指数分布，IG为逆伽玛分布，Beta为贝塔分布，N为正态分布， N k 为多元正态分布。 根据贝叶斯定理可得参数的待估后验密度为： 1) u 1 ， u 2 P ( u 1 i | y ， x ， β ， σ ， α ， p 1 ， p 2 ) ∝ f ( u 1 i ) I [ u 1 i > ( ( x i T β − y i ) Γ ( 1 + 1 p 1 ) α σ ) p 1 ] ( y i < x i T β ) ∝ E x p ( 1 ) I [ u 1 i > ( ( x i T β − y i ) Γ ( 1 + 1 p 1 ) α σ ) p 1 ] ( y i < x i T β ) (8) P ( u 2 i | y ， x ， β ， σ ， α ， p 1 ， p 2 ) ∝ f ( u 2 i ) I [ u 2 i > ( ( y i − x i T β ) Γ ( 1 + 1 p 2 ) ( 1 − α ) σ ) p 2 ] ( y i > x i T β ) ∝ E x p ( 1 ) I [ u 2 i > ( ( y i − x i T β ) Γ ( 1 + 1 p 2 ) ( 1 − α ) σ ) p 2 ] ( y i > x i T β ) (9) 其中， I ( ⋅ ) 为指示函数。 2) σ P ( σ | y ， x ， u 1 ， u 2 ， α ， β ， p 1 ， p 2 ) ∝ f ( σ ) 1 σ n I [ σ > σ _ ] ∝ I G ( n − 1 + a σ ， b σ ) I [ σ > σ _ ] (10) 当 u 1 i > 0 时， x i T β − α σ Γ ( 1 + 1 p 1 ) u 1 i 1 p 1 < y i ，化简为： σ > ( x i T β − y i ) Γ ( 1 + 1 p 1 ) α u 1 i 1 / p 1 当 u 2 i > 0 时， y i < x i T β + ( 1 − α ) σ Γ ( 1 + 1 p 2 ) u 2 1 p 2 ，化简为： σ > ( y i − x i T β ) Γ ( 1 + 1 p 2 ) ( 1 − α ) u 2 i 1 / p 2 由此可得： σ _ = max { ( x i T β − y i ) Γ ( 1 + 1 p 1 ) α u 1 i 1 / p 1 ， ( y i − x i T β ) Γ ( 1 + 1 p 2 ) ( 1 − α ) u 2 i 1 / p 2 } 。 3) α P ( α | y ， x ， u 1 ， u 2 ， σ ， β ， p 1 ， p 2 ) ∝ f ( α ) I [ α _ < α < α ¯ ] ∝ B e t a ( a α ， b α ) I [ α _ < α < α ¯ ] (11) 当 u 1 i > 0 ， u 2 i > 0 时，有 x i T β − α σ Γ ( 1 + 1 p 1 ) u 1 i 1 p 1 < y i < x i T β + ( 1 − α ) σ Γ ( 1 + 1 p 2 ) u 2 1 p 2 化简可得： max { 0 ， ( x i T β − y i ) Γ ( 1 + 1 p 1 ) σ u 1 i 1 / p 1 } < α < min { 0 ， 1 − ( y i − x i T β ) Γ ( 1 + 1 p 2 ) σ u 2 i 1 / p 2 } α _ = max { 0 ， ( x i T β − y i ) Γ ( 1 + 1 p 1 ) σ u 1 i 1 p 1 } α ¯ = min { 0 ， 1 − ( y i − x i T β ) Γ ( 1 + 1 p 2 ) σ u 2 i 1 / p 2 } 4) p 1 ， p 2 P ( p 1 | y ， x ， u 1 ， u 2 ， α ， σ ， β ， p 2 ) ∝ f ( p 1 ) I [ x i T β − y i α σ < u 1 i 1 / p 1 Γ ( 1 + 1 p 1 ) ] ( u 1 i > 0 ) ∝ N ( a p 1 ， b p 1 ) I [ x i T β − y i α σ < u 1 i 1 / p 1 Γ ( 1 + 1 p 1 ) ] ( u 1 i > 0 ) (12) P ( p 2 | y ， x ， u 1 ， u 2 ， α ， σ ， β ， p 1 ) ∝ f ( p 2 ) I [ y i − x i T β ( 1 − α ) σ < u 2 i 1 / p 2 Γ ( 1 + 1 p 2 ) ] ( u 2 i > 0 ) ∝ N ( a p 2 ， b p 2 ) I [ y i − x i T β ( 1 − α ) σ < u 2 i 1 / p 2 Γ ( 1 + 1 p 2 ) ] ( u 2 i > 0 ) (13) 5) β 设 β − j T = ( β 1 ， ⋯ ， β j − 1 ， β j + 1 ， ⋯ ， β k ) 为不含第j个参数的向量， β 的先验分布服从多元正态分布，根据贝叶斯定理和多元正态分布性质可得： P ( β j | y ， x ， u 1 ， u 2 ， β − j ， α ， σ ， β ， p 1 ， p 2 ) ∝ f ( β j ) I [ β j ∈ ( β _ j ， β ¯ j ) ] ∝ N ( b j * ， B j * ) I [ β j ∈ ( β _ j ， β ¯ j ) ] (14) 其中， j = 1 ， ⋯ ， k ， b j * = b j − B j ( − j ) B ( − j ) ( − j ) − 1 ( β ( − j ) − b ( − j ) ) ， B j * = B j j − B j ( − j ) B ( − j ) ( − j ) − 1 B ( − j ) j ；由似然函数可知： x i T β − α σ Γ ( 1 + 1 p 1 ) u 1 1 p 1 < y i < x i T β + ( 1 − α ) σ Γ ( 1 + 1 p 2 ) u 2 1 p 2 当 x i j > 0 时，化简为： y i − x i ( − j ) T β ( − j ) x i j − ( 1 − α ) σ u 2 i 1 / p 2 x i j Γ ( 1 + 1 / p 2 ) < β j < y i − x i ( − j ) T β ( − j ) x i j + α σ u 1 i 1 / p 1 x i j Γ ( 1 + 1 / p 1 ) 当 x i j < 0 时，化简为： y i − x i ( − j ) T β ( − j ) x i j + α σ u 1 i 1 / p 1 x i j Γ ( 1 + 1 / p 1 ) < β j < y i − x i ( − j ) T β ( − j ) x i j − ( 1 − α ) σ u 2 i 1 / p 2 x i j Γ ( 1 + 1 / p 2 ) 由此可得： β _ j = { y i − x i ( − j ) T β ( − j ) x i j − ( 1 − α ) σ u 2 i 1 p 2 x i j Γ ( 1 + 1 p 2 ) ， y i − x i ( − j ) T β ( − j ) x i j + α σ u 1 i 1 / p 1 x i j Γ ( 1 + 1 / p 1 ) } β ¯ j = { y i − x i ( − j ) T β ( − j ) x i j + α σ u 1 i 1 p 1 x i j Γ ( 1 + 1 p 1 ) ， y i − x i ( − j ) T β ( − j ) x i j − ( 1 − α ) σ u 2 i 1 / p 2 x i j Γ ( 1 + 1 / p 2 ) }