Lors de la Convention constitutionnelle de 1787 et du processus de ratification en 1788, Madison fut au nombre des deux ou trois les plus ardents défenseurs d’un gouvernement national fort, rédigeant, avec Hamilton, "le Fédéraliste". En 1789-1790, Madison était en tête de ceux qui soutenaient le nouveau gouvernement fédéral.