\begin{array} { r l } { \mathbb { E } _ { t - 2 \tau } \Big \lVert \bar { \theta } _ { t } - \bar { \theta } _ { t - \tau } \Big \rVert ^ { 2 } } & { \le \tau \sum _ { s = t - \tau } ^ { t - 1 } \left[ \alpha ^ { 2 } c _ { 4 } ^ { 2 } \mathbb { E } _ { t - 2 \tau } \Big \lVert \bar { \theta } _ { s } - \theta ^ { * } \Big \rVert ^ { 2 } + \alpha ^ { 2 } c _ { 4 } ^ { 2 } \delta _ { s } ^ { 2 } \right. } \\ & { \left. + 6 \alpha ^ { 2 } \mathbb { E } _ { t - 2 \tau } \Big \lVert \frac { 1 } { N K } \sum _ { i = 1 } ^ { N } \sum _ { k = 0 } ^ { K - 1 } Z _ { i } ( O _ { s , k } ^ { ( i ) } ) \Big \rVert ^ { 2 } + 2 \alpha ^ { 2 } c _ { 1 } ^ { 2 } \Gamma ^ { 2 } ( \epsilon , \epsilon _ { 1 } ) \right] } \\ & { \le \tau \alpha ^ { 2 } c _ { 4 } ^ { 2 } \sum _ { s = t - \tau } ^ { t - 1 } \left[ 2 \mathbb { E } _ { t - 2 \tau } \Big \lVert \bar { \theta } _ { t - \tau } - \theta ^ { * } \Big \rVert ^ { 2 } + 2 4 \alpha \left[ \left( \frac { d _ { 2 } ^ { 2 } } { N K } + M _ { 3 } ( \epsilon , \epsilon _ { 1 } ) \right) 4 \tau + \frac { 8 L _ { 2 } ^ { 2 } \alpha ^ { 2 } } { 1 - \rho ^ { 2 } } \right] \right. } \\ & { \left. + 1 6 \alpha c _ { 4 } ^ { 2 } \sum _ { k = 0 } ^ { \tau } \mathbb { E } _ { t - 2 \tau } [ \delta _ { t - k } ^ { 2 } ] \right] \quad ( \mathrm { E q ~ } ) } \\ & { + 6 \alpha ^ { 2 } \tau \sum _ { s = t - \tau } ^ { t - 1 } \left( \frac { d _ { 2 } ^ { 2 } } { N K } + 4 L _ { 2 } ^ { 2 } \rho ^ { 2 ( s - t + 2 \tau ) K } \right) \quad ( \mathrm { L e m m a ~ } ) } \\ & { + \alpha ^ { 2 } c _ { 4 } ^ { 2 } \tau \sum _ { s = t - \tau } ^ { t - 1 } \mathbb { E } _ { t - 2 \tau } [ \delta _ { s } ^ { 2 } ] + 2 \alpha ^ { 2 } c _ { 1 } ^ { 2 } \tau ^ { 2 } \Gamma ^ { 2 } ( \epsilon , \epsilon _ { 1 } ) } \\ & { \stackrel { ( a ) } { \le } \tau ^ { 2 } \alpha ^ { 2 } c _ { 4 } ^ { 2 } \left[ 2 \mathbb { E } _ { t - 2 \tau } \Big \lVert \bar { \theta } _ { t - \tau } - \theta ^ { * } \Big \rVert ^ { 2 } + 9 6 \left( \frac { d _ { 2 } ^ { 2 } } { N K } \alpha \tau + \frac { 2 L _ { 2 } ^ { 2 } \alpha ^ { 3 } } { 1 - \rho ^ { 2 } } \right) \right] } \\ & { + 6 \alpha ^ { 2 } \tau \left[ \frac { d _ { 2 } ^ { 2 } } { N K } \tau + \frac { 4 L _ { 2 } ^ { 2 } \alpha ^ { 2 } } { 1 - \rho ^ { 2 K } } \right] + \alpha ^ { 2 } c _ { 4 } ^ { 2 } \tau ( 1 + 1 6 \alpha \tau c _ { 4 } ^ { 2 } ) \sum _ { s = 0 } ^ { \tau } E _ { t - 2 \tau } [ \delta _ { t - s } ^ { 2 } ] } \\ & { + 9 6 \alpha ^ { 2 } c _ { 4 } ^ { 2 } \tau ^ { 3 } M _ { 3 } ( \epsilon , \epsilon _ { 1 } ) + 2 \alpha ^ { 2 } c _ { 1 } ^ { 2 } \tau ^ { 2 } \Gamma ^ { 2 } ( \epsilon , \epsilon _ { 1 } ) } \\ & { \stackrel { ( b ) } \le 2 \tau ^ { 2 } \alpha ^ { 2 } c _ { 4 } ^ { 2 } \mathbb { E } _ { t - 2 \tau } \Big \lVert \bar { \theta } _ { t - \tau } - \theta ^ { * } \Big \rVert ^ { 2 } + \frac { d _ { 2 } ^ { 2 } } { N K } \alpha ^ { 2 } \tau ^ { 2 } \left( 9 6 \alpha \tau c _ { 4 } ^ { 2 } + 6 \right) + \frac { 1 2 L _ { 2 } ^ { 2 } \alpha ^ { 4 } \tau } { 1 - \rho ^ { 2 } } \left( 1 6 \alpha c _ { 4 } ^ { 2 } \tau + 2 \right) } \\ & { + \alpha ^ { 2 } c _ { 4 } ^ { 2 } \tau ( 1 + 1 6 \alpha \tau c _ { 4 } ^ { 2 } ) \sum _ { s = 0 } ^ { \tau } E _ { t - 2 \tau } [ \Delta _ { t - s } ] + 9 6 \alpha ^ { 2 } c _ { 4 } ^ { 2 } \tau ^ { 3 } M _ { 3 } ( \epsilon , \epsilon _ { 1 } ) + 2 \alpha ^ { 2 } c _ { 1 } ^ { 2 } \tau ^ { 2 } \Gamma ^ { 2 } ( \epsilon , \epsilon _ { 1 } ) } \end{array}