For Haber, som var stolt av innsatsen han hadde gjort for landet sitt, og var både jøde og en kompromissløs tysk patriot med en sterk militaristisk orientering, var nazistenes maktovertagelse, som førte til at han ble nødt til å forlate landet, et stort sjokk. Han døde i Basel.