Han var søn af Christian August von Rumohr til Drølt og Runtoft (23. februar 1784 – 9. september 1839) og Sophie f. Hennings (1. juli 1786 – 19. juli 1876), tog 1838 juridisk eksamen i Kiel, blev samme år auskultant ved regeringen på Gottorp Slot, 1843 auskultant i Rentekammeret, 1844 kammerjunker, 1845 surnumerær kommitteret i Rentekammeret, 1846 regeringsråd i Slesvig. Samme år arvede han Runtoft efter sin broder landråd Christian August von Rumohr (26. maj 1809 – 27. marts 1846), som 1840-44 sad i Slesvig Stænder, og der tillagdes ham da en til det runtoftske fideikommis knyttet virilstemme i stænderne, da kongen troede at have ham på sin side. Dette viste sig hurtig at have været en fejltagelse, thi ikke alene bad Rumohr sig øjeblikkelig fritaget for pladsen i stænderne, men da oprøret udbrød 1848, søgte han straks sin afsked og tilbød samtidig den provisoriske regering sin tjeneste.