Han var sønn av generalløytnant Georg Frederik von Krogh, inntrådte 1749 som fenrik i 1. vesterlenske Infanteriregiment, og ble overført 1750 til Grenaderkorpset i København, hvor han 1752 ble sekondløytnant og hoffjunker. Året etter vendte han tilbake til vesterlenske regiment som kaptein og kompanisjef, og begynnelsen var dermed gjort til hans hurtige avansement. Dette skyldes dels slektskap og hoffgunst, men von Krogh var også sin egen lykkes smed. Han hadde gode evner og anlegg for tjenesten, og var fra første stund av besjelet av en glødende interesse for å lære den å kjenne. Dette førte til at han ved syvårskrigens utbrudd søkte og fikk ansettelse i den prøyssiske hær som volontær. Han gjorde seg bemerket hos Fredrik den store og fikk tillatelse til å gjøre hele felttoget 1757 i hans generalstab. Under retretten etter slaget ved Kolin, da han ble såret, red han ved siden av kongen da denne ledsaget av få ryttere måtte bane seg vei gjennom en flokk pandurer, som forfulgte dem. Etter at sårene var leget, fikk han ansettelse i feltmarskalk Keiths korps.