Han vokste opp i Oslo der han etter examen artium 1886 meldte seg inn i SK Ull (etablert 1883). Krag var offiser frem til 1912 da han hadde blitt major, og gjort unna Den militære høyskole i 1893. Han var nevø av Ole Herman Krag (1837–1916) som omkring 1890 hadde funnet opp Krag-Jørgensen (gevær). Krag var fra 1896 til 1897 ansatt ved geværkontrollen hos den store våpenprodusenten (etablert 1864), i dag kjent som Steyr Mannlicher. De hadde i 1895 fått kontrakt på produksjon av tyve tusen Krag-Jørgensen med bajonett. Vel tilbake derfra jobbet han ved Krigsskolen som lærer i skyting.