Ehrhardt var på listen over de som skulle drepes under De lange knivers natt, men han klarte å komme seg unna til Østerrike. Han ble senere invitert tilbake til det nasjonalsosialistiske Tyskland.