В началото на Първата световна война Макензен командва 17-и армейски корпус като част от 8-а армия, първо под командата на генерал Притвиц, а после – от генерал Хинденбург, и участва в битките при Гумбинен и Таненберг. По-късно през годината Макензен взема командването на новата 9-а армия и е награден с орден за храброст за действията си около Лодз и Варшава. През пролетта на 1915 година ръководи Горлицкия пробив в руските позиции, превземайки на Пшемишъл и Лвов.