Nel 1772 sposò una vedova ventitreenne, Martha Skelton, dalla quale ebbe sei figli: Martha Jefferson Randolph (1772–1836), Jane Randolph (1774–1775), una figlia nata morta nel 1777, Mary Wayles (1778–1804), Elizabeth (1780–1781) ed Lucy Elizabeth (1782–1784). Seguendo l'esempio del padre, divenne giudice di pace e poi fu rappresentante dell'assemblea della Virginia fino a quando, nel 1775, venne eletto al congresso continentale.