Gulowsen ble offiser i 1860 og var i mange år sjef for Ringsakerske eskadron. I 1891 ble han oberstløytnant og sjef for landvernkorpset i Opplandske kavallerikorps. Fra 1898 var han oberst og sjef for kavallerikorpset. Han bodde i disse årene på Hamar. I 1904 gikk han av for aldersgrensen og flyttet til Kristiania. I 1905 foretok han en reise gjennom Sibir til Kina for å besøke sin sønn.