Даже осенью 1938 года Вайнберг, как и многие другие, всё ещё надеялся на последующее улучшение обстановки и продолжал возражать против плана переезда семинарии. Хрустальная ночь 9 ноября 1938 года стала для него полной неожиданностью. С этого дня семинария закрылась, как оказалось, навсегда. Первое время Вайнберг ещё питал какие-то надежды, но потом понял, что жизнь евреев в нацистской Германии становится невозможной. Сам он был разбит и болен, неспособен к дальним странствиям, в то время как практически весь состав семинарии спасся. Профессор Кале пытался, естественно безуспешно, пристроить Вайнберга в Гиссенский университет. Самого Кале впоследствии тоже уволили за дружбу с евреями, и он оказался в Англии. Наконец, в конце 1938 года гестапо приказало Вайнбергу покинуть Германию. Тот был вынужден спешно оставить страну с минимальным количеством вещей. Точная дата отъезда неизвестна, предположительно в марте 1939 года. По счастью, его главный ученик, раввин Элиэзер Беркович, уехавший немного ранее, спас многие рукописи Вайнберга, вошедшие позднее в сборник респонсов «Sridei еsh». Другие рукописи, три книги, готовые к печати, экземпляр диссертации, а также вся личная библиотека безвозвратно пропали.