Han tilhørte en norsk militærslekt utgått av bondestand; navnet ble først skrevet «Krogh», men fra 1800 «Krohg». Han var sønn av oberstløytnant Christian Krogh og Gyri Thorsdatter. Han gjennomgikk den matematiske skolen i Christiania, og ble premierløytnant ved 1. søndenfjældske Dragonregiment i 1756. Fra 1757 gjorde han tjeneste i Danmark og fra 1759 i flere år som ingeniør ved den norske-svenske grensekommisjonen. I 1762 ble han kaptein og kom til 2. søndenfjældske Dragonregiment i 1766. I 1768 ble han generalveimester i Throndhjems og Bergens stifter. Da de to bergenhusiske amter fikk egen generalveimester 1788, beholdt han Romsdals og de to trondhjemske amter. Han kjøpte i 1777 gården Munkvoll ved Trondheim, hvor han senere bosatte seg.