Hesselberg var en ivrig soldat og en ypperlig taktiker, og hans afdeling blev snart en af de bedste i den dansk-norske hær. Kundskabsrig og human, som han var, tog han sig meget af sine undergivne, og hans underofficerer fik en fortrinlig undervisning. Såvel Carl af Hessen som kronprinsen påskønnede hans arbejde og lod det ikke mangle på ros. 1783 blev Hesselberg fungerende kommandant på Akershus og 1788 generalmajor. I felttoget i Båhus Len 1788 førte han 3. feltbrigade, og nogle af hans tropper var 28. september med til at omgå de svenskes stilling ved Kvistrum Bro; han førte brigaden over Gøtaelv, men felttoget endtes snart uden yderligere sammenstød med fjenden. 1790 dæmpede Hesselberg nogle uroligheder på Kongsberg, og samme år udnævntes han til direktør for Den militære matematiske Skole i Christiania samt til inspektør for infanteriet søndenfjelds. 1793 fratrådte han kommandoen over regimentet, men hans øvrige stillinger gav ham rigelig beskæftigelse. Han arbejdede med kraft på de unge officerers uddannelse, skolen fik 1798 en ny organisation, og han stræbte med held at hæve militærstandens sociale anseelse. Ogsaa som inspektør udfoldede han megen virksomhed.