Aux côtés du dépendant de la , placé sous les ordres de Hindenburg, il participe aux opérations sur le front de l'Est, notamment aux batailles de Gumbinnen et de Tannenberg (1914). Il est alors nommé au commandement de la , le , avant de recevoir la médaille Pour le Mérite pour les actions de Lodz et de Varsovie. En , il reçoit le commandement de la  allemande avec une autorité "de facto" sur la armée austro-hongroise, l'ensemble constituant le groupe d'armées von Mackensen qui opère conjointement en Galicie avec les reconquêtes de Przemyśl et de Lemberg, actions qui lui valent la médaille Pour le Mérite avec feuilles de chêne le . Il est élevé à la dignité de maréchal le et reçoit les ordres de chevalerie de l'aigle noir, de Marie-Thérèse, de Saint-Étienne et de Maximilien-Joseph de Bavière, les ordres militaires les plus élevés de Prusse, d'Autriche-Hongrie et de Bavière ; il reçoit aussi d'autres décorations de la part d'autres principautés de l'Empire allemand.