Debatten om de føderale myndighetenes makt i forhold til delstatenes, førte til dannelsen av de første amerikanske politiske partiene. Madison var viktig i dannelsen av det demokratisk-republikanske partiet. Medlemmene der støttet Jefferson og hadde sterk tro på begrenset sentralisert makt. Motstanderne til demokrat-republikanerne var føderalistpartiet som fulgte Hamilton og trodde på en sterk sentral makt.