Job von Witzleben søkte avskjed i 1835 på grunn av alvorlig sykdom og døde to år etter. Han ble gravlagt i en «æresgrav» på Invalidenfriedhof i Berlin.