ארמסטרונג הצעיר הצטרף בתחילה לרגימנט המיליציה של פנסילבניה ובשנה שלאחר מכן הוא מונה לשלישו האישי של יו מרסר מהצבא הקונטיננטלי. בתפקידו זה הוא נשא את הגנרל מרסר הפצוע והגוסס משדה הקרב בקרב פרינסטון. לאחר מותו של מרסר ב-12 בינואר 1777, היה ארמסטרונג לשלישו של הגנרל הורשיו גייטס. הוא נשאר עם גייטס במהלך קרב סרטוגה ולאחר מכן התפטר מסיבות בריאותיות. ב-1782 ביקש ממנו גייסט לשוב. ארמסטרונג הצטרף למטה של גייסט כשליש בדרגת מייג'ור, תפקיד אותו הוא מילא עד תום המלחמה.