Han blev udnævnt til general i 1908, og ved starten af 1. verdenskrig var han chef for XVII armekorps, der indgik i 8. arme under først Max von Prittwitz og senere Paul von Hindenburg. Han deltog i slagene ved Gumbinnen, Tannenberg og de Masuriske søer. Senere i 1914 fik Mackensen kommandoen over den nyopstillede 9. arme. Han deltog i kampene ved Lodz og Warszawa, senere 1915 i Galicien, Przemysl og Lemberg.