Der junge Armstrong schloss sich dem Pennsylvania-Miliz-Regiment an, aber schon im folgenden Jahr wurde er ein Berater von General Hugh Mercer in der Kontinentalarmee. In dieser Rolle trug er den verwundeten und sterbenden General Mercer bei der Schlacht von Princeton vom Feld. Nachdem der General am 12. Januar 1777 gestorben war, wurde Armstrong Berater von General Horatio Gates. Er blieb bei Gates bis zu der Schlacht von Saratoga, dann trat er wegen gesundheitlicher Probleme zurück. 1782 bat Gates ihn zurückzukommen. Armstrong trat Gates' Generalstab als sein Berater mit dem Rang eines Majors, den er bis zum Ende des Krieges behielt, bei.