Po wybuchu I wojny światowej objął dowództwo 9 i 11 Armii oraz 17 Korpusu. Brał udział w bitwie pod Gąbinem, bitwie pod Łowiczem i Łodzią. W maju 1915 przełamał front rosyjski pod Gorlicami. Był to początek najbardziej udanej ofensywy Państw Centralnych na froncie wschodnim, w której Mackensen miał znaczący udział. W jej wyniku na początku czerwca 1915 odzyskano Przemyśl, a z końcem czerwca Lwów. Za odzyskanie Lwowa został awansowany na feldmarszałka.