Schlieffen var sønn av en prøyssisk generalmajor, og gikk selv inn i den prøyssiske hæren i 1854. Han avanserte raskt og kom allerede i 1863 i tjeneste i generalstaben.