Nació en Finsbury Pavement, en las afueras de Londres; su padre era propietario de una caballeriza y murió de la caída de un caballo en 1803, cuando el poeta tenía sólo siete años.