Рабенау е арестуван вследствие на заговора, който завършва с опит за покушение срещу Адолф Хитлер на 20 юли 1944 г. На 15 април 1945 г., без да бъде обвинен или съден, генерал Фридрих фон Рабенау, един от последните затворници в концентрационния лагер Флосенбюрг, е застрелян по заповед на Химлер. Заповедта за екзекуция е издадена от началника на Гестапо Хайнрих Мюлер с допълнителна заповед да се съобщи за смъртта му, че е в резултат на нисколетящ съюзен въздушен удар. Мемориалът във Флосенбюрг погрешно дава датата на убийство на Рабенау на 9 април 1945 г. Той има съпруга – Ева Кауц, и две дъщери.