Ziehlberg ble opprinnelig idømt noen måneders fengsel for tjenesteforsømmelse i forbindelse med 20. juli-attentatet, men ble benådet og deretter gjeninnsatt i tjeneste. Hitler begynte deretter og fatte misstanke om at han hadde samarbeidet med Ludwig Beck og dermed ble han stilt for retten på nytt. Han ble dømt til døden den 21. november 1944 og henrettet av en eksekusjonspelotong den 2. februar 1945.