Studiò al College of New Jersey, ma allo scoppio della rivoluzione americana nel 1775 abbandonò gli studi e si arruolò come volontario. Nel 1776 prestò servizio come aiutante da campo del generale Hugh Mercer, dimostrando tutto il suo valore nella battaglia di Trenton, e l'anno successivo del generale Horatio Gates, che accompagnò durante la campagna di Saratoga. Nel 1780 Armstrong fu afflitto da un attacco di malaria che lo costrinse a ritirarsi dal fronte. Verso la fine del conflitto Armstrong fu tra coloro che furono implicati nella cosiddetta "cospirazione di Newburgh" nel 1783, all'interno della quale fu responsabile ed autore di due lettere anonime "An Address to the Officers", indirizzate a diversi ufficiali dell'esercito per organizzare una riunione nella quale discutere le azioni da intraprendere per ottenere il pagamento della paga, sospesa per volere del Congresso. L'incontro stabilito per il 15 marzo 1783 fu tuttavia osteggiato dal generale George Washington che lo considerò alla stregua di un atto di insubordinazione.