На следующий день после неудачного покушения на Гитлера 20 июля 1944 г. Остер был арестован. 8 апреля 1945 он в результате ускоренной судебной процедуры был приговорён к смерти в концлагере Флоссенбург вместе с адмиралом Канарисом и пастором Бонхёффером. На следующий день они были повешены, причём перед смертью осуждённых раздели догола и в таком виде заставили идти к виселице.