Taney ble uteksaminert fra Dickinson College i 1795, og etter å ha studert rettsvitenskap på et advokatfirma i Annapolis i Maryland ble han innvilget i advokatforeningen i 1799. Samme år ble han også valgt til Maryland House of Delegates. Han stilte til valg for en ny periode, men etter å ha tapt flyttet han til Frederick County hvor han arbeidet med sin advokatpraksis. I perioden mellom 1816 til 1821 var Taney medlem av Marylands delstatssenat før han i 1823 flyttet til Baltimore, hvor han fortsatte med sin advokatpraksis.