A la muerte de Georgiana, el duque contrajo matrimonio con Lady Elizabeth Foster, con quien tuvo dos hijos: un hijo y una hija.