Han døde i KGBs fangenskap i Vladimir ti år senere, av hjertesvikt. Skjønt det er også blitt hevdet at Weidling ble drept av KGB rett før han skulle ha blitt satt fri og blitt repatriert. Han ble lagt i en umerket grav i fengselets gravlund.