Kruse var sønn av sogneprest Just Kruse (1886–1962) og Grete Eline Kruse (født Kinn, 1893–1959). Han ble gift i 1944 med Eunice M. Kruse (født Cooklin, 1925), var bror til fysioterapeut Astrid E. Kruse Andersen (1926-2020), var far til komponisten og musikeren Bjørn Kruse (født 1946) og orkesterlederen og musikeren Philip Kruse (født 1949), bestefar til Jannike, Anine og Benedikte Kruse, og svoger til Aksel Aarhaug (1921–2000).