Được sự tiến cử của các chỉ huy của mình, Schlieffen vào học Trường Chiến tranh Berlin năm 1858 ở độ tuổi, trẻ hơn rõ rệt so với những người khác. Ông tốt nghiệp với điểm cao vào năm 1861, và nhờ đó ông trở thành một sĩ quan trong Bộ Tổng tham mưu. Vào năm 1862, ông được đưa vào Cục Đo đạc địa hình của Bộ Tổng tham mưu, và thời gian làm việc trong cục đã đem lại cho ông kiến thức về địa lý, tạo điều kiện cho ông soạn thảo Kế hoạch Schlieffen về sau này. Đến năm 1865, ông được chuyển vào thẳng Bộ Tổng tham mưu, dù rằng ông chỉ đóng một vai trò nhỏ. Ông tham gia chiến tranh lần đầu tiên với cương vị là sĩ quan tham mưu trong Quân đoàn Kỵ binh Phổ tại Trận Königgrätz trong cuộc Chiến tranh Áo-Phổ vào năm 1866. Chiến thuật "bao vây tiêu diệt" được triển khai trong trận chiến này về sau sẽ được áp dụng trong Kế hoạch Schlieffen của ông. Trong cuộc Chiến tranh Pháp-Đức (1870 – 1871), ông chỉ huy một đội quân nhỏ ở thung lũng sông Loire, chiến đấu với quân Pháp trong cái sẽ được biết đến như một trong những chiến dịch khó nhọc nhất của quân đội Phổ. Tại Pháp, Đại Công tước Friedrich I xứ Baden đã phong cho ông quân hàm Thiếu tá và giao cho ông đứng đầu Khoa lịch sử quân sự của Bộ Tổng tham mưu Phổ. Sau những năm làm việc với Helmuth von Moltke Nhỏ và Alfred von Waldersee, vào ngày 4 tháng 12 năm 1886, ông được lên quân hàm Thiếu tướng, và không lâu sau đó, khi Moltke nghỉ hưu, ông thay thế ông này làm Phó Tổng tham mưu trưởng của Waldersee. Chẳng bấy lâu sau, ông trở thành Tướng hậu cần, sau đó là Trung tướng vào ngày 4 tháng 12 năm 1888 rồi cuối cùng là Thượng tướng Kỵ binh Đức vào ngày 27 tháng 1 năm 1893. Sau gần 53 năm phục vụ trong quân ngũ, Alfred Von Schlieffen đã về hưu vào Tết Dương lịch năm 1906. Ông từ trần vào ngày 4 tháng 1 năm 1913, đúng 19 tháng trước khi cuộc Chiến tranh thế giới thứ nhất bùng nổ. Những lời nói cuối cùng của ông được cho là: "Hãy nhớ: giữa cho cánh phải thật mạnh."