import Mathlib
import Optlib


open Set Real

open Set Real PNat

theorem extracted_formal_statement_73.{u_1} {E : Type u_1} [inst : NormedAddCommGroup E] [inst_1 : InnerProductSpace ℝ E]
  [inst_2 : CompleteSpace E] {x0 : E} {f h : E → ℝ} {f' : E → E} {alg : Nesterov_second f h f' x0} {xm : E}
  (minφ : IsMinOn (f + h) univ xm) :
  let φ := fun z => f z + h z;
  (∀ (z : E), φ z = f z + h z) →
    (∀ (k : ℕ+),
        Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
            Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k) ∈
          SubderivAt (Nesterov_second.t f h f' x0 ↑k • h) (Nesterov_second.y f h f' x0 ↑k)) →
      (∀ (w : E) (k : ℕ+),
          Nesterov_second.t f h f' x0 ↑k * h w ≥
            Nesterov_second.t f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) +
              inner
                (Nesterov_second.γ f h f' x0 ↑k •
                    (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
                  Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
                (w - Nesterov_second.y f h f' x0 ↑k)) →
        (∀ (k : ℕ+),
            h (Nesterov_second.x f h f' x0 ↑k) ≤
              (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
                Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k)) →
          (∀ (k : ℕ), Nesterov_second.t f h f' x0 k / Nesterov_second.γ f h f' x0 k > 0) →
            (∀ (w : E) (k : ℕ+),
                Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) ≤
                  Nesterov_second.γ f h f' x0 ↑k * h w -
                    Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
                      inner
                        (Nesterov_second.γ f h f' x0 ↑k •
                            (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
                          Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
                        (w - Nesterov_second.y f h f' x0 ↑k)) →
              (∀ (k : ℕ+),
                  f (Nesterov_second.x f h f' x0 ↑k) ≤
                    f (Nesterov_second.z f h f' x0 k) +
                        inner (f' (Nesterov_second.z f h f' x0 k))
                          (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
                      ↑(Nesterov_second.l f h f' x0) / 2 *
                        ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2) →
                (∀ (k : ℕ+),
                    f (Nesterov_second.x f h f' x0 ↑k) ≤
                      f (Nesterov_second.z f h f' x0 k) +
                          inner (f' (Nesterov_second.z f h f' x0 k))
                            (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
                        1 / (2 * Nesterov_second.t f h f' x0 ↑k) *
                          ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2) →
                  (∀ (k : ℕ+),
                      f (Nesterov_second.x f h f' x0 ↑k) ≤
                        f (Nesterov_second.z f h f' x0 k) +
                            inner (f' (Nesterov_second.z f h f' x0 k))
                              ((1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                                  Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
                                Nesterov_second.z f h f' x0 k) +
                          Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
                            ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2) →
                    (∀ (k : ℕ+),
                        f (Nesterov_second.x f h f' x0 ↑k) ≤
                          (1 - Nesterov_second.γ f h f' x0 ↑k) * f (Nesterov_second.x f h f' x0 (↑k - 1)) +
                              Nesterov_second.γ f h f' x0 ↑k *
                                (f (Nesterov_second.z f h f' x0 k) +
                                  inner (f' (Nesterov_second.z f h f' x0 k))
                                    (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) +
                            Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
                              ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2) →
                      (∀ (k : ℕ+),
                          h (Nesterov_second.x f h f' x0 ↑k) ≤
                            (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
                                Nesterov_second.γ f h f' x0 ↑k * h xm -
                              Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
                                inner
                                  (Nesterov_second.γ f h f' x0 ↑k •
                                      (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
                                    Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
                                  (xm - Nesterov_second.y f h f' x0 ↑k)) →
                        (∀ (k : ℕ+),
                            φ (Nesterov_second.x f h f' x0 ↑k) - φ xm -
                                (1 - Nesterov_second.γ f h f' x0 ↑k) *
                                  (φ (Nesterov_second.x f h f' x0 (↑k - 1)) - φ xm) ≤
                              Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
                                (‖Nesterov_second.y f h f' x0 (↑k - 1) - xm‖ ^ 2 -
                                  ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2)) →
                          ∀ (k : ℕ+),
                            Nesterov_second.t f h f' x0 (↑k + 1) / Nesterov_second.γ f h f' x0 (↑k + 1) ^ 2 *
                                    (φ (Nesterov_second.x f h f' x0 (↑k + 1)) - φ xm) +
                                  -(Nesterov_second.t f h f' x0 ↑k / Nesterov_second.γ f h f' x0 ↑k ^ 2 *
                                      (φ (Nesterov_second.x f h f' x0 ↑k) - φ xm)) ≤
                                1 / 2 * ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2 -
                                  1 / 2 * ‖Nesterov_second.y f h f' x0 (↑k + 1) - xm‖ ^ 2 →
                              Nesterov_second.t f h f' x0 (↑k + 1) / Nesterov_second.γ f h f' x0 (↑k + 1) ^ 2 *
                                    (φ (Nesterov_second.x f h f' x0 (↑k + 1)) - φ xm) -
                                  Nesterov_second.t f h f' x0 ↑k / Nesterov_second.γ f h f' x0 ↑k ^ 2 *
                                    (φ (Nesterov_second.x f h f' x0 ↑k) - φ xm) ≤
                                1 / 2 * ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2 -
                                  1 / 2 * ‖Nesterov_second.y f h f' x0 (↑k + 1) - xm‖ ^ 2 := sorry

Tactic state before:
E : Type u_1
inst✝² : NormedAddCommGroup E
inst✝¹ : InnerProductSpace ℝ E
inst✝ : CompleteSpace E
x0 : E
f h : E → ℝ
f' : E → E
alg : Nesterov_second f h f' x0
xm : E
minφ : IsMinOn (f + h) univ xm
φ : E → ℝ := fun z => f z + h z
φdef : ∀ (z : E), φ z = f z + h z
h1 :
  ∀ (k : ℕ+),
    Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
        Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k) ∈
      SubderivAt (Nesterov_second.t f h f' x0 ↑k • h) (Nesterov_second.y f h f' x0 ↑k)
hieq1 :
  ∀ (w : E) (k : ℕ+),
    Nesterov_second.t f h f' x0 ↑k * h w ≥
      Nesterov_second.t f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) +
        inner
          (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
            Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
          (w - Nesterov_second.y f h f' x0 ↑k)
cvxineq :
  ∀ (k : ℕ+),
    h (Nesterov_second.x f h f' x0 ↑k) ≤
      (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
        Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k)
bsc1 : ∀ (k : ℕ), Nesterov_second.t f h f' x0 k / Nesterov_second.γ f h f' x0 k > 0
hieq2 :
  ∀ (w : E) (k : ℕ+),
    Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) ≤
      Nesterov_second.γ f h f' x0 ↑k * h w -
        Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
          inner
            (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
              Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
            (w - Nesterov_second.y f h f' x0 ↑k)
hieq4 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
        ↑(Nesterov_second.l f h f' x0) / 2 * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
hieq5 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
        1 / (2 * Nesterov_second.t f h f' x0 ↑k) * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
hieq6 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k))
            ((1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
              Nesterov_second.z f h f' x0 k) +
        Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
          ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2
hieq7 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      (1 - Nesterov_second.γ f h f' x0 ↑k) * f (Nesterov_second.x f h f' x0 (↑k - 1)) +
          Nesterov_second.γ f h f' x0 ↑k *
            (f (Nesterov_second.z f h f' x0 k) +
              inner (f' (Nesterov_second.z f h f' x0 k))
                (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) +
        Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
          ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2
hieq3 :
  ∀ (k : ℕ+),
    h (Nesterov_second.x f h f' x0 ↑k) ≤
      (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
          Nesterov_second.γ f h f' x0 ↑k * h xm -
        Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
          inner
            (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
              Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
            (xm - Nesterov_second.y f h f' x0 ↑k)
hieqmajor :
  ∀ (k : ℕ+),
    φ (Nesterov_second.x f h f' x0 ↑k) - φ xm -
        (1 - Nesterov_second.γ f h f' x0 ↑k) * (φ (Nesterov_second.x f h f' x0 (↑k - 1)) - φ xm) ≤
      Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
        (‖Nesterov_second.y f h f' x0 (↑k - 1) - xm‖ ^ 2 - ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2)
k : ℕ+
⊢ Nesterov_second.t f h f' x0 (↑k + 1) / Nesterov_second.γ f h f' x0 (↑k + 1) ^ 2 *
        (φ (Nesterov_second.x f h f' x0 (↑k + 1)) - φ xm) +
      -(Nesterov_second.t f h f' x0 ↑k / Nesterov_second.γ f h f' x0 ↑k ^ 2 *
          (φ (Nesterov_second.x f h f' x0 ↑k) - φ xm)) ≤
    1 / 2 * ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2 - 1 / 2 * ‖Nesterov_second.y f h f' x0 (↑k + 1) - xm‖ ^ 2

Tactic:
rw [neg_eq_zero_sub, add_zero_sub]

Tactic state after:
[E : Type u_1
 inst✝² : NormedAddCommGroup E
 inst✝¹ : InnerProductSpace ℝ E
 inst✝ : CompleteSpace E
 x0 : E
 f h : E → ℝ
 f' : E → E
 alg : Nesterov_second f h f' x0
 xm : E
 minφ : IsMinOn (f + h) univ xm
 φ : E → ℝ := fun z => f z + h z
 φdef : ∀ (z : E), φ z = f z + h z
 h1 :
   ∀ (k : ℕ+),
     Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
         Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k) ∈
       SubderivAt (Nesterov_second.t f h f' x0 ↑k • h) (Nesterov_second.y f h f' x0 ↑k)
 hieq1 :
   ∀ (w : E) (k : ℕ+),
     Nesterov_second.t f h f' x0 ↑k * h w ≥
       Nesterov_second.t f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) +
         inner
           (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
             Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
           (w - Nesterov_second.y f h f' x0 ↑k)
 cvxineq :
   ∀ (k : ℕ+),
     h (Nesterov_second.x f h f' x0 ↑k) ≤
       (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
         Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k)
 bsc1 : ∀ (k : ℕ), Nesterov_second.t f h f' x0 k / Nesterov_second.γ f h f' x0 k > 0
 hieq2 :
   ∀ (w : E) (k : ℕ+),
     Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) ≤
       Nesterov_second.γ f h f' x0 ↑k * h w -
         Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
           inner
             (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
               Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
             (w - Nesterov_second.y f h f' x0 ↑k)
 hieq4 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       f (Nesterov_second.z f h f' x0 k) +
           inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
         ↑(Nesterov_second.l f h f' x0) / 2 * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
 hieq5 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       f (Nesterov_second.z f h f' x0 k) +
           inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
         1 / (2 * Nesterov_second.t f h f' x0 ↑k) * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
 hieq6 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       f (Nesterov_second.z f h f' x0 k) +
           inner (f' (Nesterov_second.z f h f' x0 k))
             ((1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                 Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
               Nesterov_second.z f h f' x0 k) +
         Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
           ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2
 hieq7 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       (1 - Nesterov_second.γ f h f' x0 ↑k) * f (Nesterov_second.x f h f' x0 (↑k - 1)) +
           Nesterov_second.γ f h f' x0 ↑k *
             (f (Nesterov_second.z f h f' x0 k) +
               inner (f' (Nesterov_second.z f h f' x0 k))
                 (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) +
         Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
           ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2
 hieq3 :
   ∀ (k : ℕ+),
     h (Nesterov_second.x f h f' x0 ↑k) ≤
       (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
           Nesterov_second.γ f h f' x0 ↑k * h xm -
         Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
           inner
             (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
               Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
             (xm - Nesterov_second.y f h f' x0 ↑k)
 hieqmajor :
   ∀ (k : ℕ+),
     φ (Nesterov_second.x f h f' x0 ↑k) - φ xm -
         (1 - Nesterov_second.γ f h f' x0 ↑k) * (φ (Nesterov_second.x f h f' x0 (↑k - 1)) - φ xm) ≤
       Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
         (‖Nesterov_second.y f h f' x0 (↑k - 1) - xm‖ ^ 2 - ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2)
 k : ℕ+
 ⊢ Nesterov_second.t f h f' x0 (↑k + 1) / Nesterov_second.γ f h f' x0 (↑k + 1) ^ 2 *
         (φ (Nesterov_second.x f h f' x0 (↑k + 1)) - φ xm) -
       Nesterov_second.t f h f' x0 ↑k / Nesterov_second.γ f h f' x0 ↑k ^ 2 *
         (φ (Nesterov_second.x f h f' x0 ↑k) - φ xm) ≤
     1 / 2 * ‖Nesterov_second.y f h f' x0 ↑k - xm‖ ^ 2 - 1 / 2 * ‖Nesterov_second.y f h f' x0 (↑k + 1) - xm‖ ^ 2]