Alfred von Waldersee oli kenraali Franz von Walderseen poika. Waldersee aloitti upseerinuransa vuonna 1850 Preussin tykistössä. Hän oli vuoden 1866 sodan aikana tykistön komentajan adjutanttina ja sai Königgrätzin taistelun jälkeen ylennyksen majuriksi sekä siirron pääesikuntaan. Ranskan–Saksan sodan alla vuonna 1870 hän toimi sotilasattašeana Pariisissa ja lähetti hallitukselleen hyödyllisiksi osoittautuneita raportteja Ranskan armeijasta. Sodan puhjettua Waldersee toimi everstiluutnanttina ensin päämajassa ja sitten prinssi Fredrik Kaarlen esikunnassa. Vuonna 1871 hän toimi ensin Mecklenburgin herttua Fredrik Frans II:n esikuntapäällikkönä ja syyskuusta alkaen Saksan asiainhoitajana Ranskan hallituksen luona. Sittemmin hän toimi rykmentinkomentajana ja vuodesta 1873 10. armeijakunnan esikuntapäällikkönä. Hänet ylennettiin 1876 kenraalimajuriksi ja 1882 kenraaliluutnantiksi.