Da konstitusjonen ble ratifisert, ble Madison valgt til Representantenes hus fra sin hjemstat Virginia og tjente fra den første til den fjerde kongressen og var medlem av det demokratisk-republikanske partiet i sin siste periode i kongressen. I 1789 foreslo han en pakke med tolv tillegg til konstitusjonen basert på et tidligere arbeid av George Mason. Tilleggene ble vedtatt 15. desember 1791. De siste ti tilleggene er kjent som . Av de to første forslagene som ikke ble ratifisert i 1791, ble det andre etterhvert det 27. tillegget mer enn 200 år senere, i 1992.