Taney, Maryland, Calvert County'de zengin, köle sahibi bir ailede doğdu. Federalist Parti üyesi olarak Maryland Temsilciler Meclisine seçildi, ancak daha sonra 1812 Savaşı nedeniyle partiden ayrıldı. Taney, Demokrat Parti'ye geçtikten sonra, 1816'da Maryland Senatosu'na seçildi. Eyaletteki en önde gelen avukatlardan biri olarak ün kazandıktan sonra 1827'de Maryland Başsavcısı olarak atandı. Taney, 1824 ve 1828'de Andrew Jackson'ın başkanlık kampanyalarını destekledi ve Jackson'ın Demokratik Partisi'nin bir üyesi oldu. 1831'de Başkan Jackson, Taney'i başsavcı olarak atadı. Taney, Jackson'ın kabinesinin en önemli üyelerinden biri oldu ve Bank Savaşı'nda önemli bir rol oynadı..