\begin{array} { r l } & { \mathbb { E } \| \mathcal { S } _ { [ \mu , L _ { g } ] } \big [ \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) \big ] - H _ { t + 1 } \| ^ { 2 } } \\ & { = \mathbb { E } \| \mathcal { S } _ { [ \mu , L _ { g } ] } \big [ \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) \big ] - \mathcal { S } _ { [ \mu , L _ { g } ] } \big [ \tilde { \alpha } _ { t + 1 } \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ; \zeta _ { t + 1 } ) + ( 1 - \tilde { \alpha } _ { t + 1 } ) H _ { t } \big ] \| ^ { 2 } } \\ & { \leq \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \tilde { \alpha } _ { t + 1 } \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ; \zeta _ { t + 1 } ) - ( 1 - \tilde { \alpha } _ { t + 1 } ) H _ { t } \| ^ { 2 } } \\ & { = \mathbb { E } \| \tilde { \alpha } _ { t + 1 } ( \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ; \zeta _ { t + 1 } ) ) + ( 1 - \tilde { \alpha } _ { t + 1 } ) ( \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) - H _ { t } ) } \\ & { \quad + ( 1 - \tilde { \alpha } _ { t + 1 } ) \big ( \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) \big ) \| ^ { 2 } } \\ & { \mathop { = } ^ { ( i ) } \mathbb { E } \| ( 1 - \tilde { \alpha } _ { t + 1 } ) ( \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) - H _ { t } ) + ( 1 - \tilde { \alpha } _ { t + 1 } ) \big ( \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) \big ) \| ^ { 2 } } \\ & { \quad + \tilde { \alpha } _ { t + 1 } ^ { 2 } \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ; \zeta _ { t + 1 } ) \| ^ { 2 } } \\ & { \leq ( 1 - \tilde { \alpha } _ { t + 1 } ) ^ { 2 } ( 1 + \tilde { \alpha } _ { t + 1 } ) \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) - H _ { t } \| ^ { 2 } + ( 1 - \tilde { \alpha } _ { t + 1 } ) ^ { 2 } ( 1 + \frac { 1 } { \tilde { \alpha } _ { t + 1 } } ) \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) \| ^ { 2 } } \\ & { \quad + \tilde { \alpha } _ { t + 1 } ^ { 2 } \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ; \zeta _ { t + 1 } ) \| ^ { 2 } } \\ & { \mathop { \leq } ^ { ( i i ) } ( 1 - \tilde { \alpha } _ { t + 1 } ) \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) - H _ { t } \| ^ { 2 } + \frac { 1 } { \tilde { \alpha } _ { t + 1 } } \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t + 1 } , y _ { t + 1 } ) - \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) \| ^ { 2 } + \tilde { \alpha } _ { t + 1 } ^ { 2 } \sigma ^ { 2 } } \\ & { \mathop { \leq } ^ { ( i i i ) } ( 1 - \tilde { \alpha } _ { t + 1 } ) \mathbb { E } \| \nabla _ { y y } ^ { 2 } g ( x _ { t } , y _ { t } ) - H _ { t } \| ^ { 2 } + \frac { 2 L _ { g y y } ^ { 2 } \eta _ { t } ^ { 2 } } { \tilde { \alpha } _ { t + 1 } } \big ( \mathbb { E } \| \tilde { x } _ { t + 1 } - x _ { t } \| ^ { 2 } + \mathbb { E } \| \tilde { y } _ { t + 1 } - y _ { t } \| ^ { 2 } \big ) + \tilde { \alpha } _ { t + 1 } ^ { 2 } \sigma ^ { 2 } , } \end{array}