Guttmann oppholdt seg mye i Norge og bygde seg hytte i Svolvær i 1928. I Tyskland ble han i 1933 fjernet fra alle sin embeter og han bosatte seg da i Lofoten.