I 1826 giftet han seg med Jane Baillie Welsh (1801–1866) og bosatte seg på hennes gård i Craigenputtock i den øde delen av den skotske landsbygda. Der skrev han den delvis selvbiografiske og i England meget høyt skattede (1836) hvor han beskriver sin religiøse tvil. Han fikk seg et navn med verket om franske revolusjonen (1837).