Knox blieb die meiste Zeit des Krieges bei der Hauptarmee und war an Gefechten bei der Schlacht von Princeton, der Schlacht von Brandywine, der Schlacht von Germantown, der Schlacht von Monmouth und der Schlacht von Yorktown beteiligt. 1777, als die Armee in den Winterquartieren bei Morristown lagerte, kehrte er nach Massachusetts zurück, um die Leistungsfähigkeit der Artillerie zu verbessern. Er stellte ein weiteres Bataillon auf und gründete das Springfielder Arsenal, bevor er im Frühjahr zurückkehrte. Das Arsenal blieb für den Rest des Krieges eine wertvolle Quelle von Waffen und Munition. Anfang 1780 war er Mitglied des Kriegsgerichtes über Major John André. Knox unternahm als George Washingtons Vertreter mehrere Reisen in die nördlichen Staaten, um den Zustrom an Männern und Vorräten zur Armee zu verstärken.