Witzleben kom fra en gammel uradelslekt fra Thüringen, og tjenestegjorde som ung gutt fra 1793 ved hoffet til Fredrik Vilhelm II av Preussen og ble tilsluttet hans livgarde i 1799. Han ble fenrik i 1802 og tatt til fange under slaget ved Jena-Auerstedt i 1806, men utlevert i en fangeutveksling i august 1807. Gerhard von Scharnhorst ble oppmerksom på hans arbeide og han ble i desember 1808 overført til det nyetablerte som kaptein ved staben.