Al estallar la Primera Guerra Mundial en agosto de 1914 tras el "Atentado de Sarajevo", Mackensen se encontraba al mando del XVII Cuerpo de Ejército (desde 1908), adscrito al 8.º Ejército mandado por Maximilian von Prittwitz y posteriormente por Paul von Hindenburg, y tomó parte en las batallas de Gumbinnen y Tannenberg.