У серпні 1914 року на чолі свого корпусу взяв участь у битві при Гумбіненні. Під час цього бою корпус Макензена невдало атакував російські війська генерала Ренненкампфа і відступив з великими втратами. У битві під Танненбергом Макензен діяв рішуче і розгромив російський 6-й армійський корпус і замкнув кільце оточення над 2-ю армією генерала Самсонова.