期间任大陆会议和维吉尼亚下议院成员。在1780年代末期，他协助组织制宪会议，制定新宪法来替换失灵的邦联条例。会后，麦迪逊成为修宪运动的领袖之一。他与约翰·杰伊及亚历山大·汉密尔顿共同编写《联邦党人文集》，力挺宪法。1788年宪法通过之后，麦迪逊选入众议院。期间，他成为乔治·华盛顿总统亲密的顾问，是第一届国会最突出的成员之一，协助通过法案，建立新政府。因起草前十条宪法修正案，麦迪逊也被誉为“权利法案之父”。虽然新宪法建立了强有力的联邦政府，但在华盛顿任期内，麦迪逊反对财务部长亚历山大·汉密尔顿主张的中央集