\begin{array} { r l } & { \Delta V _ { k } } \\ & { = ( \vartheta _ { k + 1 } - \theta ^ { * } ) ^ { \top } F _ { k } ^ { - 1 } ( \vartheta _ { k + 1 } - \theta ^ { * } ) + ( \theta _ { k + 1 } - \vartheta _ { k + 1 } ) ^ { \top } F _ { k } ^ { - 1 } ( \theta _ { k + 1 } - \vartheta _ { k + 1 } ) } \\ & { \quad - ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \vartheta _ { k } - \theta ^ { * } ) - ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \theta _ { k } - \vartheta _ { k } ) } \\ & { = \left[ \vartheta _ { k } - \theta ^ { * } - F _ { k } \frac { \nabla L _ { k } ( \theta _ { k + 1 } ) } { \mathcal { N } _ { k } } \right] ^ { \top } F _ { k } ^ { - 1 } \left[ \vartheta _ { k } - \theta ^ { * } - F _ { k } \frac { \nabla L _ { k } ( \theta _ { k + 1 } ) } { \mathcal { N } _ { k } } \right] } \\ & { \quad + \left[ \theta _ { k } - \beta ( \theta _ { k } - \vartheta _ { k } ) - \vartheta _ { k } + F _ { k } \frac { \nabla L _ { k } ( \theta _ { k + 1 } ) } { \mathcal { N } _ { k } } \right] ^ { \top } F _ { k } ^ { - 1 } \left[ \theta _ { k } - \beta ( \theta _ { k } - \vartheta _ { k } ) - \vartheta _ { k } + F _ { k } \frac { \nabla L _ { k } ( \theta _ { k + 1 } ) } { \mathcal { N } _ { k } } \right] } \\ & { \quad - ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \vartheta _ { k } - \theta ^ { * } ) - ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \theta _ { k } - \vartheta _ { k } ) } \\ & { = ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } F _ { k } ^ { - 1 } ( \vartheta _ { k } - \theta ^ { * } ) + ( 1 - \beta ) ^ { 2 } ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } F _ { k } ^ { - 1 } ( \theta _ { k } - \vartheta _ { k } ) } \\ & { \quad - \frac { 2 } { \mathcal { N } _ { k } } ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } \nabla L _ { k } ( \theta _ { k + 1 } ) + \frac { 2 ( 1 - \beta ) } { \mathcal { N } _ { k } } ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } \nabla L _ { k } ( \theta _ { k + 1 } ) } \\ & { \quad + \frac { 2 } { \mathcal { N } _ { k } ^ { 2 } } \left[ \nabla L _ { k } ( \theta _ { k + 1 } ) \right] ^ { \top } F _ { k } \nabla L _ { k } ( \theta _ { k + 1 } ) } \\ & { \quad - ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \vartheta _ { k } - \theta ^ { * } ) - ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \theta _ { k } - \vartheta _ { k } ) } \\ & { = \frac { 1 } { \lambda } ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } \! F _ { k - 1 } ^ { - 1 } ( \vartheta _ { k } - \theta ^ { * } ) + \frac { \kappa } { \lambda [ 1 + ( \eta - \kappa ) \phi _ { k } ^ { \top } F _ { k - 1 } \phi _ { k } ] } ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } \phi _ { k } \phi _ { k } ^ { \top } ( \vartheta _ { k } - \theta ^ { * } ) } \\ & { \quad + \frac { ( 1 - \beta ) ^ { 2 } } { \lambda } ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \theta _ { k } - \vartheta _ { k } ) + \frac { \kappa ( 1 - \beta ) ^ { 2 } } { \lambda [ 1 + ( \eta - \kappa ) \phi _ { k } ^ { \top } F _ { k - 1 } \phi _ { k } ] } ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } \phi _ { k } \phi _ { k } ^ { \top } ( \theta _ { k } - \vartheta _ { k } ) } \\ & { \quad - \frac { 2 } { \mathcal { N } _ { k } } ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } \nabla L _ { k } ( \theta _ { k + 1 } ) + \frac { 2 ( 1 - \beta ) } { \mathcal { N } _ { k } } ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } \nabla L _ { k } ( \theta _ { k + 1 } ) } \\ & { \quad + \frac { 2 } { \mathcal { N } _ { k } ^ { 2 } } \left[ \nabla L _ { k } ( \theta _ { k + 1 } ) \right] ^ { \top } F _ { k } \nabla L _ { k } ( \theta _ { k + 1 } ) } \\ & { \quad - ( \vartheta _ { k } - \theta ^ { * } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \vartheta _ { k } - \theta ^ { * } ) - ( \theta _ { k } - \vartheta _ { k } ) ^ { \top } F _ { k - 1 } ^ { - 1 } ( \theta _ { k } - \vartheta _ { k } ) } \end{array}