King studerade juridik vid University of North Carolina at Chapel Hill. 1806 inledde han sin karriär som advokat i Wilmington men började nästan genast ägna sig åt politik, inledningsvis som ledamot av delstatsparlamentet. Han var ledamot av 1811–1816 och var en av de "krigshökar" som stödde 1812 års krig. Därefter arbetade han som diplomat i Neapel och Sankt Petersburg, där han var legationssekreterare till den amerikanske ambassadören William Pinkney. 1818, efter hemkomsten till USA, flyttade han till Alabama, där han åter gick in i politiken och var med i Alabamas första konstitutionskonvent. Sedan Alabama blivit delstat blev King i Washington, D.C. Han omvaldes fyra gånger och var senator från december 1819 till april 1844. Han var bland annat ordförande för handelsutskottet och "president pro tempore" i senaten. Han avgick från senaten 1844 för att bli USA:s minister i Frankrike, utsedd av president John Tyler med uppgiften att förhindra Frankrike från att lägga sig i USA:s annektering av Texas från Mexiko, vilket lyckades. Han återvände från Frankrike 1846 och kandiderade samma år till senaten utan att bli vald. 1848 blev han dock åter senator genom ett fyllnadsval, och förblev i senaten till 1852. De två sista åren i senaten var han "president pro tempore" en gång till.