I slutten av 1950-årene kom vesttyske myndigheter på sporet av ham og han ble arrestert den 12. november 1959. Anklageren Fritz Bauer fikk i oppdrag å sammenstille anklagen mot Heyde, som ble ansett å være ansvarlig for titusentalls menneskers død. Sammen med Gerhard Bohne, Hans Hefelmann og Friedrich Tillmann ble Heyde anklaget for Limburger Landgericht. Rettegangen skulle innledes den 18. februar 1964, men fem dager før begikk Heyde selvmord ved å henge seg i sin celle.