Als die Belagerung von Boston andauerte, wies er darauf hin, dass die Kanonen aus dem Fort Ticonderoga eine entscheidende Rolle spielen könnten. Washington ernannte ihn zum Artillerieoberst und übertrug ihm das Kommando über die Expedition, die die Kanonen holen sollte. Seine Streitkraft brachte sie mit von Ochsen gezogenen Schlitten durch die Green Mountains und über den zugefrorenen Fluss Connecticut River. Als sie zurückgekehrt waren und die Kanonen in einer den Hafen überblickenden Stellung platziert hatten, waren die Briten gezwungen, sich am 17. März 1776 nach Halifax zurückzuziehen. Nachdem die Belagerung aufgehoben worden war, übernahm Knox den Neubau und die Erweiterung der Verteidigungsanlagen in Connecticut und Rhode Island in Vorbereitung auf die Rückkehr der Briten. Er schloss sich später während deren Rückzug aus New York und durch New Jersey der Hauptarmee wieder an.