Holtermann var generalinspektør for hærens artilleri fra 1946 til 1948, øverstkommanderende i Nord-Norge fra 1949 til 1950, sjef for Tysklandsbrigaden fra 1950 til 1952, sjef for Hærens stab og sjef for de allierte landmilitære styrker i Sør-Norge fra 1952 til 1956. Han ble da utnevnt til ridder av 1. klasse av St. Olavs Orden. Holtermanns siste stilling var som sjef for Sivilforsvaret fra 1956 til 1962, da han gikk av med pensjon.