ギルマンの父の元上級士官であったジョン・ラングドンと共にフィラデルフィアに到着した時は、すでに議論が進められており、直ぐに議論に参加してあらゆる邦と地域で承認を得る憲法を作り出すために必要な妥協を案出することに貢献した。
尽管他和另一个代表约翰·兰顿抵达费城时，制宪会议已经召开，他们仍然立即参加到辩论中，并帮助各方妥协形成最终的美国宪法。