De Amerikaanse Onafhankelijkheidsoorlog brak uit met de Slagen van Lexington en Concord op 19 april 1775. Knox verliet Boston en sloot zich aan bij de strijdmacht die de stad belegerde. Zijn hele boekwinkel werd tijdens het beleg vernietigd. Tijdens de Slag om Bunker Hill gaf hij leiding aan de artillerie. Toen generaal George Washington in juli 1775 arriveerde was hij onder de indruk van de verrichtingen van Knox. Zij mochten elkaar meteen en zo had Knox regelmatig contact met Washington en andere generaals van het Continental Army. Met name door de inzet van John Adams kreeg hij de benoeming tot kolonel.