Nach dem frühen Tod seiner Mutter wurde Ledebur durch einen Hofmeister erzogen und im Jahr 1786 als Junker im Infanterieregiment „Jung-Woldeck“ der Preußischen Armee in Minden eingeschrieben. Er versah jedoch keinen Dienst, kam 1787 in das Pageninstitut nach Potsdam und wurde im Jahr darauf zum Leibpagen von König Friedrich Wilhelm II. ernannt. Auf eigenen Wunsch trat er am 7. Juni 1790 als Fähnrich den Dienst in seinem Regiment an und avancierte am 26. Mai 1792 zum Sekondeleutnant. Als solcher nahm Ledebur 1792/95 während des Krieges gegen Frankreich an der Kanonade von Valmy, der Belagerung von Bitsch sowie den Kämpfen bei Eschweiler, Herzogshand, Weidenthal, Bubenhausen, Burweiler, am Schänzel, Ruppersberg, Kaiserslautern und an der Weißenburger Linie teil. Dabei konnte er sich mehrfach bewähren und erhielt am 20. September 1794 den Orden Pour le Mérite. Als Premierleutnant kämpfte er 1806 im Vierten Koalitionskrieg in der Schlacht bei Auerstedt. Auf dem Rückzug kam Ledebur zu Blücher und geriet nach der Kapitulation von Ratkau kurzzeitig in französische Kriegsgefangenschaft. Daraufhin wurde er inaktiv gestellt.