import Mathlib
import Optlib


open Set Real

open Set Real PNat

theorem extracted_formal_statement_42.{u_1} {E : Type u_1} [inst : NormedAddCommGroup E] [inst_1 : InnerProductSpace ℝ E]
  [inst_2 : CompleteSpace E] {x0 : E} {f h : E → ℝ} {f' : E → E} {alg : Nesterov_second f h f' x0} {xm : E}
  (minφ : IsMinOn (f + h) univ xm) :
  let φ := fun z => f z + h z;
  (∀ (z : E), φ z = f z + h z) →
    (∀ (k : ℕ+),
        Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
            Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k) ∈
          SubderivAt (Nesterov_second.t f h f' x0 ↑k • h) (Nesterov_second.y f h f' x0 ↑k)) →
      (∀ (w : E) (k : ℕ+),
          Nesterov_second.t f h f' x0 ↑k * h w ≥
            Nesterov_second.t f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) +
              inner
                (Nesterov_second.γ f h f' x0 ↑k •
                    (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
                  Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
                (w - Nesterov_second.y f h f' x0 ↑k)) →
        (∀ (k : ℕ+),
            h (Nesterov_second.x f h f' x0 ↑k) ≤
              (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
                Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k)) →
          (∀ (k : ℕ), Nesterov_second.t f h f' x0 k / Nesterov_second.γ f h f' x0 k > 0) →
            (∀ (w : E) (k : ℕ+),
                Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) ≤
                  Nesterov_second.γ f h f' x0 ↑k * h w -
                    Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
                      inner
                        (Nesterov_second.γ f h f' x0 ↑k •
                            (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
                          Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
                        (w - Nesterov_second.y f h f' x0 ↑k)) →
              (∀ (w : E) (k : ℕ+),
                  h (Nesterov_second.x f h f' x0 ↑k) ≤
                    (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
                        Nesterov_second.γ f h f' x0 ↑k * h w -
                      Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
                        inner
                          (Nesterov_second.γ f h f' x0 ↑k •
                              (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
                            Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
                          (w - Nesterov_second.y f h f' x0 ↑k)) →
                (∀ (k : ℕ+),
                    f (Nesterov_second.x f h f' x0 ↑k) ≤
                      f (Nesterov_second.z f h f' x0 k) +
                          inner (f' (Nesterov_second.z f h f' x0 k))
                            (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
                        ↑(Nesterov_second.l f h f' x0) / 2 *
                          ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2) →
                  (∀ (k : ℕ+),
                      f (Nesterov_second.x f h f' x0 ↑k) ≤
                        f (Nesterov_second.z f h f' x0 k) +
                            inner (f' (Nesterov_second.z f h f' x0 k))
                              (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
                          1 / (2 * Nesterov_second.t f h f' x0 ↑k) *
                            ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2) →
                    (∀ (k : ℕ+),
                        f (Nesterov_second.x f h f' x0 ↑k) ≤
                          f (Nesterov_second.z f h f' x0 k) +
                              inner (f' (Nesterov_second.z f h f' x0 k))
                                ((1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                                    Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
                                  Nesterov_second.z f h f' x0 k) +
                            Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
                              ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2) →
                      ∀ (k : ℕ+),
                        (1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                                Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
                              Nesterov_second.z f h f' x0 k =
                            (1 - Nesterov_second.γ f h f' x0 ↑k) •
                                (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
                              Nesterov_second.γ f h f' x0 ↑k •
                                (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) →
                          f (Nesterov_second.z f h f' x0 k) +
                                (inner (f' (Nesterov_second.z f h f' x0 k))
                                    ((1 - Nesterov_second.γ f h f' x0 ↑k) •
                                      (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k)) +
                                  inner (f' (Nesterov_second.z f h f' x0 k))
                                    (Nesterov_second.γ f h f' x0 ↑k •
                                      (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k))) =
                              (1 - Nesterov_second.γ f h f' x0 ↑k) *
                                  (f (Nesterov_second.z f h f' x0 k) +
                                    inner (f' (Nesterov_second.z f h f' x0 k))
                                      (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k)) +
                                Nesterov_second.γ f h f' x0 ↑k *
                                  (f (Nesterov_second.z f h f' x0 k) +
                                    inner (f' (Nesterov_second.z f h f' x0 k))
                                      (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) →
                            f (Nesterov_second.z f h f' x0 k) +
                                ((1 - Nesterov_second.γ f h f' x0 ↑k) *
                                    inner (f' (Nesterov_second.z f h f' x0 k))
                                      (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
                                  Nesterov_second.γ f h f' x0 ↑k *
                                    inner (f' (Nesterov_second.z f h f' x0 k))
                                      (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) =
                              (1 - Nesterov_second.γ f h f' x0 ↑k) * f (Nesterov_second.z f h f' x0 k) +
                                  (1 - Nesterov_second.γ f h f' x0 ↑k) *
                                    inner (f' (Nesterov_second.z f h f' x0 k))
                                      (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
                                (Nesterov_second.γ f h f' x0 ↑k * f (Nesterov_second.z f h f' x0 k) +
                                  Nesterov_second.γ f h f' x0 ↑k *
                                    inner (f' (Nesterov_second.z f h f' x0 k))
                                      (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) := sorry

Tactic state before:
E : Type u_1
inst✝² : NormedAddCommGroup E
inst✝¹ : InnerProductSpace ℝ E
inst✝ : CompleteSpace E
x0 : E
f h : E → ℝ
f' : E → E
alg : Nesterov_second f h f' x0
xm : E
minφ : IsMinOn (f + h) univ xm
φ : E → ℝ := fun z => f z + h z
φdef : ∀ (z : E), φ z = f z + h z
h1 :
  ∀ (k : ℕ+),
    Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
        Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k) ∈
      SubderivAt (Nesterov_second.t f h f' x0 ↑k • h) (Nesterov_second.y f h f' x0 ↑k)
hieq1 :
  ∀ (w : E) (k : ℕ+),
    Nesterov_second.t f h f' x0 ↑k * h w ≥
      Nesterov_second.t f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) +
        inner
          (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
            Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
          (w - Nesterov_second.y f h f' x0 ↑k)
cvxineq :
  ∀ (k : ℕ+),
    h (Nesterov_second.x f h f' x0 ↑k) ≤
      (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
        Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k)
bsc1 : ∀ (k : ℕ), Nesterov_second.t f h f' x0 k / Nesterov_second.γ f h f' x0 k > 0
hieq2 :
  ∀ (w : E) (k : ℕ+),
    Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) ≤
      Nesterov_second.γ f h f' x0 ↑k * h w -
        Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
          inner
            (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
              Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
            (w - Nesterov_second.y f h f' x0 ↑k)
hieq3 :
  ∀ (w : E) (k : ℕ+),
    h (Nesterov_second.x f h f' x0 ↑k) ≤
      (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
          Nesterov_second.γ f h f' x0 ↑k * h w -
        Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
          inner
            (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
              Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
            (w - Nesterov_second.y f h f' x0 ↑k)
hieq4 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
        ↑(Nesterov_second.l f h f' x0) / 2 * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
hieq5 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
        1 / (2 * Nesterov_second.t f h f' x0 ↑k) * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
hieq6 :
  ∀ (k : ℕ+),
    f (Nesterov_second.x f h f' x0 ↑k) ≤
      f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k))
            ((1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
              Nesterov_second.z f h f' x0 k) +
        Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
          ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2
k : ℕ+
ax :
  (1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
        Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
      Nesterov_second.z f h f' x0 k =
    (1 - Nesterov_second.γ f h f' x0 ↑k) • (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
      Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)
⊢ f (Nesterov_second.z f h f' x0 k) +
      (inner (f' (Nesterov_second.z f h f' x0 k))
          ((1 - Nesterov_second.γ f h f' x0 ↑k) •
            (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k)) +
        inner (f' (Nesterov_second.z f h f' x0 k))
          (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k))) =
    (1 - Nesterov_second.γ f h f' x0 ↑k) *
        (f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k))
            (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k)) +
      Nesterov_second.γ f h f' x0 ↑k *
        (f (Nesterov_second.z f h f' x0 k) +
          inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k))

Tactic:
rw [inner_smul_right, inner_smul_right, mul_add, mul_add]

Tactic state after:
[E : Type u_1
 inst✝² : NormedAddCommGroup E
 inst✝¹ : InnerProductSpace ℝ E
 inst✝ : CompleteSpace E
 x0 : E
 f h : E → ℝ
 f' : E → E
 alg : Nesterov_second f h f' x0
 xm : E
 minφ : IsMinOn (f + h) univ xm
 φ : E → ℝ := fun z => f z + h z
 φdef : ∀ (z : E), φ z = f z + h z
 h1 :
   ∀ (k : ℕ+),
     Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
         Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k) ∈
       SubderivAt (Nesterov_second.t f h f' x0 ↑k • h) (Nesterov_second.y f h f' x0 ↑k)
 hieq1 :
   ∀ (w : E) (k : ℕ+),
     Nesterov_second.t f h f' x0 ↑k * h w ≥
       Nesterov_second.t f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) +
         inner
           (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
             Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
           (w - Nesterov_second.y f h f' x0 ↑k)
 cvxineq :
   ∀ (k : ℕ+),
     h (Nesterov_second.x f h f' x0 ↑k) ≤
       (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
         Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k)
 bsc1 : ∀ (k : ℕ), Nesterov_second.t f h f' x0 k / Nesterov_second.γ f h f' x0 k > 0
 hieq2 :
   ∀ (w : E) (k : ℕ+),
     Nesterov_second.γ f h f' x0 ↑k * h (Nesterov_second.y f h f' x0 ↑k) ≤
       Nesterov_second.γ f h f' x0 ↑k * h w -
         Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
           inner
             (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
               Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
             (w - Nesterov_second.y f h f' x0 ↑k)
 hieq3 :
   ∀ (w : E) (k : ℕ+),
     h (Nesterov_second.x f h f' x0 ↑k) ≤
       (1 - Nesterov_second.γ f h f' x0 ↑k) * h (Nesterov_second.x f h f' x0 (↑k - 1)) +
           Nesterov_second.γ f h f' x0 ↑k * h w -
         Nesterov_second.γ f h f' x0 ↑k / Nesterov_second.t f h f' x0 ↑k *
           inner
             (Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 (↑k - 1) - Nesterov_second.y f h f' x0 ↑k) -
               Nesterov_second.t f h f' x0 ↑k • f' (Nesterov_second.z f h f' x0 k))
             (w - Nesterov_second.y f h f' x0 ↑k)
 hieq4 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       f (Nesterov_second.z f h f' x0 k) +
           inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
         ↑(Nesterov_second.l f h f' x0) / 2 * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
 hieq5 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       f (Nesterov_second.z f h f' x0 k) +
           inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k) +
         1 / (2 * Nesterov_second.t f h f' x0 ↑k) * ‖Nesterov_second.x f h f' x0 ↑k - Nesterov_second.z f h f' x0 k‖ ^ 2
 hieq6 :
   ∀ (k : ℕ+),
     f (Nesterov_second.x f h f' x0 ↑k) ≤
       f (Nesterov_second.z f h f' x0 k) +
           inner (f' (Nesterov_second.z f h f' x0 k))
             ((1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
                 Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
               Nesterov_second.z f h f' x0 k) +
         Nesterov_second.γ f h f' x0 ↑k ^ 2 / (2 * Nesterov_second.t f h f' x0 ↑k) *
           ‖Nesterov_second.y f h f' x0 ↑k - Nesterov_second.y f h f' x0 (↑k - 1)‖ ^ 2
 k : ℕ+
 ax :
   (1 - Nesterov_second.γ f h f' x0 ↑k) • Nesterov_second.x f h f' x0 (↑k - 1) +
         Nesterov_second.γ f h f' x0 ↑k • Nesterov_second.y f h f' x0 ↑k -
       Nesterov_second.z f h f' x0 k =
     (1 - Nesterov_second.γ f h f' x0 ↑k) • (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
       Nesterov_second.γ f h f' x0 ↑k • (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)
 ⊢ f (Nesterov_second.z f h f' x0 k) +
       ((1 - Nesterov_second.γ f h f' x0 ↑k) *
           inner (f' (Nesterov_second.z f h f' x0 k))
             (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
         Nesterov_second.γ f h f' x0 ↑k *
           inner (f' (Nesterov_second.z f h f' x0 k))
             (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k)) =
     (1 - Nesterov_second.γ f h f' x0 ↑k) * f (Nesterov_second.z f h f' x0 k) +
         (1 - Nesterov_second.γ f h f' x0 ↑k) *
           inner (f' (Nesterov_second.z f h f' x0 k))
             (Nesterov_second.x f h f' x0 (↑k - 1) - Nesterov_second.z f h f' x0 k) +
       (Nesterov_second.γ f h f' x0 ↑k * f (Nesterov_second.z f h f' x0 k) +
         Nesterov_second.γ f h f' x0 ↑k *
           inner (f' (Nesterov_second.z f h f' x0 k)) (Nesterov_second.y f h f' x0 ↑k - Nesterov_second.z f h f' x0 k))]