Holtermann laget på 1850-taller planer for å bygge om den middelalderske Tanum kirke til korskirke. De to første teglsteinskirkene i Akershus ble tegnet av Holtermann som var tidlig ute med den nye stilen. Holtermann var involvert i planlegging av Ås kirke, men J.W. Nordan fikk det endelige oppdraget. Sammen med Heinrich Ernst Schirmer laget Holtermann forslag til utvidelse av Rikshospitalet i Empirekvartalet til konkurransen utlyst i 1850. Christian H. Grosch vant konkurransen med sitt forslag.