ニコラス・ギルマン
それに続くニューハンプシャーでの憲法批准を確保する闘争の間、ニューヨークで大陸会議代表として留まっていたが、邦における批准推進者の一人であった兄のジョンと密接に連絡を取り続けた。この兄弟は共に働くことで、かなりの政治的影響力を及ぼし、最終投票では僅差の57対47で批准を勝ち取った。
新しいアメリカ合衆国の議会第1期が1789年にニューヨークで招集され、ギルマンは下院議員として出席し、その後4期を務めた。この期間ギルマンの兄弟達はニューハンプシャー州の政界で顕著な人物となった。兄のジョン・ギルマンが知事になり、これ14年間務め、弟は州議会での経歴を始めた。ギルマンはエクセターに戻った後で、1800年に政歴を再開し、州上院議員を1期務めた。
この期間にギルマンの政治信条が変化し始めた。かつては頑なまでに民族主義者であり連邦党が諸州のしっかりとした連合のための戦いを引っ張っている間は連邦党を支持した。しかし、一旦その考え方が確固たるものになると、政府による権力の乱用から通常の人を守る必要性に関心が移っていった。