Han var søn af stabskaptajn, senere oberst Carl Friedrich Wilster (1779-1852) og Dorothea Hermansen Fugleberg (1771-1842). Han trådte 1818 ind i Hæren som volontør, blev landkadet 1819 og erholdt 1822 sekondløjtnants anciennetet. Sine løjtnantsår tilbragte han dels ved Prins Christian Frederiks Regiment, dels ved 1. og 2. jægerkorps og ved Kongens Regiment. Han blev kammerjunker 1828, forfremmedes til premierløjtnant 1831 og til kaptajn ved sidstnævnte regiment 1840. Efter hærreduktionen i 1842 kom Wilster til 1. jægerkorps, ved hvilket han næsten uafbrudt forblev indtil 1860, og det var med denne københavnske afdeling (Kastelsjægerne), at han i den første slesvigske krig vandt sit krigerry.