Han ble imidlertid ikke sittende så lenge i denne stillingen, da Rauch fra slutten av 1838 også fikk helseproblemer og fra februar 1841 søkte han avskjed og døde kort tid etter. Han ble gravlagt i en «æresgrav» på Invalidenfriedhof i Berlin.