Han var født på Frønningen-godset, en av de største skogseiendommene på Vestlandet som hadde vært i familiens eie siden 1651. Foreldrene var godseier Johan Rumohr (1886–1981) og Liv Lindstrøm (1887–1919). Knut ble i 1958 gift med kunstnerdatteren Aagot Dorenfeldt Holwech (født 1928). Sønnen Vilhelm Rumohr overtok godset.Etter skolegang hjemme og i Bergen gikk han i 1934 ett år ved Bergen Kunsthåndverkskole før han fra 1935 til 1938 var elev i Kristiania ved Statens Håndverks- og Kunstindustriskole der han fikk lære en del hos Per Krohg før han fra 1938 til 1941 lærte hos Jean Heiberg og Georg Jacobsen ved Statens kunstakademi.