Към края на Втората световна война в Европа Гравиц е лекар във Фюрербункерa на Адолф Хитлер. Когато научава, че други служители напускат Берлин, за да избягат от съветската Червена армия, Грамиц иска от Хитлер да му позволи да напусне Берлин. Искането му е отхвърлeно. Тъй като Съветската армия напредва към Берлин, Гравиц се самоубива със семейството си с гранати в дома си в Бабелсберг.