反メイソン党
アームストロングは1812年には既に公的な事情に関わるようになっており、米英戦争ではボストン民兵隊に仕えた。マサチューセッツ州議会下院議員に当選して政界に入り、1822年から1823年と1828年から1829年の2期を務めた。1828年から1830年までボストンの市政委員も務めた。1833年、州の反メイソン党からマサチューセッツ副知事候補に指名すると提案があった。反メイソン党はフリーメイソンを廃止すべきという見解であり、アームストロングはそれに同意できなかったので指名を辞退した。しかし、ホイッグ党の推薦で副知事に当選し、最初はリーヴァイ・リンカーン・ジュニア、その後ジョン・デイビス各知事の下で副知事を務めた。アームストロングが労働者階級の出身だったので、ホイッグ党の新聞が労働問題に焦点を当てて設立された第3の政党である労働者党の党員に対するアピールに使った。1834年の選挙運動ではアームストロングのことを「機械工と労働者」と表現していた。