Prestesønnen Dexter ble uteksaminert fra Harvard University i 1781 før han deretter ble undervist i rettsvitenskap av en kommende justisministeren Levi Lincoln ved Worcester i Massachusetts. Han innledet sin karriere som advokat i byen Lunenburg i Worcester County i 1784. Fra 1793 til 1795 var han medlem av representantenes hus før han fra 1799 til 1800 var medlem av USAs senat, hvor han begge steder representerte delstaten Massachusetts.