Caunt døde av lungebetennelse 10. september 1861 i St. Martins Lane i London. Han er gravlagt utenfor St. Maria Magdalena-kirken i Hucknall like ved sine to barn som begge omkom i en brann ti år tidligere.