Madison heredó su hacienda, Montpelier, en Virginia, y fue dueño de cientos de esclavos. Sirvió como miembro de la casa de delegados de Virginia y como miembro del Congreso Continental antes de la introducción de la constitución estadounidense. Después de la Convención de Filadelfia, Madison fue una de las personas que dirigió el movimiento para aprobar la nueva constitución tanto a nivel nacional como en Virginia. Su colaboración con Alexander Hamilton y John Jay produjo los ensayos conocidos como "The Federalist" Papers (Las Ponencias Federalistas), artículos considerados como la base principal sobre la que se ratificó la constitución de los Estados Unidos. Madison cambió de parecer en cuanto a su política personal. Al principio creía que lo mejor sería un gobierno central fuerte mientras que al final llegó a apoyar la idea de que los estados deberían tener más poder que el gobierno central. Al final de su vida llegó a aceptar una idea equilibrada en la cual los estados y el gobierno federal comparten el poder por igual.