Holtermann var medlem av Strinda herredsstyre og formannskap, ordfører fra 1874 til 1877, forlikskommissær og valgmann ved flere stortingsvalg. Selv var han vararepresentant til Stortinget fra Søndre Trondhjems amt fra 1889 til 1891, og møtte for avdøde Nils Nilsen Pukstad i 1891. Holtermann var formann i direksjonen (styret) i Strindens Sparebank og medlem av direksjonen i Norges Bank fra 1901 til 1905.