Krag var elev ved Nissens skole, han begynte på Krigsskolen vinteren 1854 og ble kadett. Han var samtidig elev ved Den Kongelige Kunst- og Tegneskolen i Christiania, hvor han fikk utdannelse innen tegning, herunder også konstruksjonstegning. Han ble uteksaminert fra Krigsskolen i desember 1857, og 18. desember ble han sekondløytnant i 1. Akershuske brigade. Han gjorde tjeneste i Fredrikshald, Fredrikstad, Horten og på Oscarsborg. Han jobbet også med vei og jernbane, bl.a. Drammenbanen, og var den første i Norge som sprengte fjell med glyserolnitrat (nitroglyserin).