En 1798 Montagu dejó a su mujer y se instaló en Knowle House, cerca de Kingsbridge en Devon.