Da Hans von Dohnanyi ble fengslet i april 1943 fikk Gestapo også mistanke til Oster, og han ble permittert og satt under overvåkning. Etter det mislykkede 20. juli-attentatet ble Oster arrestert allerede dagen etter. Kort før krigens slutt ble Oster, som da hadde graden generalmajor, dømt til døden i en skueprosess og hengt i konsentrasjonsleiren Flossenbürg sammen med Dietrich Bonhoeffer og Wilhelm Canaris. For å ydmyke de dødsdømte, ble de tvunget til å kle av seg og gå nakne til galgen.