Wollnick hadde også en militær karriere. Han tok Krigsskolens infanterilinje i 1888 og ble dermed vernepliktig offiser. I 1894 ble han premierløytnant og i 1903 kaptein. I 1905 var han utkommandert som konstituert sjef for Fjordene bataljon før han kom tilbake til Østlandet og var fem år i Oslo og Horten.