Han ble premierløytnant 31. juni 1861 og begynte på den militære Høyskolen, hvor han ble uteksaminert i 1863. Han ble Sekondløytnant i artilleriet 17. mars 1864 og gjorde tjeneste ved Hovedarsenalet i Christiania. En periode i 1864-65 var han utenfor tjeneste (surnumerær). 15. september 1866 ble han beordret som kontrolloffisersaspirant til Kongsberg Våpenfabrikk, hvor han fikk en videreutdannelse som ga ham tilnærmet børsemakerutdannelse. Denne utdannelsen ble avsluttet med eksamen, hvor han bl.a. fremstilte et eget prøvegevær, et 4’’’ kammerladningsgevær, som er utstilt på Kongsberg Våpenfabrikks museum. Han ble deretter beordret som kontrolloffiser ved hovedarsenalets geværforandringsverksted fra 15. april 1868, og som kontrolloffiser ved Våpenfabrikken fra 16. juni 1870. I 1870 giftet han seg med Karen Elise Theodora Collett (1844–1926), datter av godseier John Collett og Antoinette Johanne født Smith. De var foreldre til Herman Krag (født 1871) og besteforeldre til arkitekt Herman Krag.