Hielm begynte 16 år gammel på Krigsskolen, der han tok eksamen i 1853. Han ble deretter sekondløytnant i Hæren. I 1858 avla han eksamen ved den Militære Høiskole. Han oppnådde i 1867 kapteins grad. Hielm tok avskjed fra Hæren i 1887.