Han hørte til en gammel officersslægt, og hans forældre var kaptajn Woldemar Wilhelm Hirsch og Laurine født Nielsen. I 1828 blev han kadet og i 1829 opvartende page; efter bestået officerseksamen blev han sekondløjtnant med aldersorden fra 1828 og kom i nummer ved Fynske Regiment 1830. Her ved blev han premierløjtnant 1836, hvorefter han ansattes som vagtmesterløjtnant hos kommandanten i Fredericia og som adjudant hos chefen for Fynske Regiment, daværende prins Frederik (VII), hvis yndest han vandt. I 1842 blev Hirsch adjudant ved 12. bataljon og rykkede straks ved Treårskrigens udbrud 1848 i felten, idet en anden officer overtog vagtmesterløjtnants-forretningerne. Han deltog således i kampen ved Bov og slaget ved Slesvig, blev derefter kaptajn og ansattes ved overkommandoen på Als, men kom i oktober til 1. forstærkningsbataljon som kompagnichef. Under Fredericias forsvar det følgende år valgte oberst Christian Lunding ham til pladsmajor, og han gjorde udmærket fyldest i denne stilling. Det næste år attacheredes han atter overkommandoen og deltog i slaget ved Isted, idet han den dag ansattes hos general Christian de Meza som stabschef.