El període del Tercer Reich no es quedava sense rastre a Herford tampoc. El 1934 dels membres dels Sturmabteilung (SA) van incendiar la sinagoga el que no produïa més que danys febles. De resultes de la reparació podia ser utilitzada de manera normal. Durant la Nit dels vidres trencats el 1938 la sinagoga va ser incendiada de nou i a més a més va ser saquejada. La sinagoga va ser completament destruïda per l'incendi i per la destrucció suplementària dels incendiaris. En el context de l'Holocaust més de 100 ciutadans jueus van ser deportats i van ser assassinats.