Namens zijn gemeenschap werd Gilmans vader in 1775 afgevaardigd naar het Provinciale Congres van New Hampshire. Dit gebeurde kort nadat de eerste vijandigheden uitbraken bij Lexington en Concord. Tijdens de Amerikaanse Onafhankelijkheidsoorlog diende hij als de schatkistbewaarder van de staat. Zelf diende Gilman bij de militie van New Hampshire als assistent van een officier. Het regiment waar hij in diende moest een Britse inval vanuit Canada voorkomen. De Amerikanen verloren een slag bij Fort Ticonderoga en sloegen aanvankelijk op de vlucht. De Britse opmars vertraagde echter en liep uiteindelijk uit op een nederlaag voor de Britten. Gilmans regiment werd vervolgens naar Philadelphia verscheept. De Amerikaanse hoofdstad was in handen van de Britten gevallen. Intussen kwam Gilman ook bekend te staan als iemand met leidinggevende en organiserende kwaliteiten. Binnen het Continental Army bracht hij het tot de rang van kapitein. In het vervolg van de oorlog had hij bijna dagelijks contact met verschillende belangrijke legerleiders, zoals George Washington, Nathanael Greene en Henry Knox. Na de dood van zijn vader in 1783 nam Gilman ontslag uit het leger en keerde terug naar Exeter om zich in te zetten voor het familiebedrijf.