Etter Trondhjems katedralskole fikk han sin jordbruksutdannelse på Karlslyst hovedgård i Malvik og studerte jordskiftelandmåling i Sverige. Fra 1861 til 1869 var han utskiftningsformann i Søndre Trondhjems amt (nå Sør-Trøndelag). På auksjon i 1868 kjøpte han den vanskjøttede gården Sluppen utenfor Trondhjem, hvor han drenerte jordene og bygde opp en stor besetning på over 60 kyr. Vinteren 1877/1878 ble besetningen rammet av en epidemi som medførte at den måtte slaktes, og bygningene måtte rives og flyttes. Holtermann led et betydelig økonomisk tap, men gjenoppbygde gården og drev den frem til han solgte den til Fredrik Bruseth rundt 1900. Han var også forretningsfører for Hommelvik bruk og eide et møllebruk i Hommelvik.