Трагичной, как и везде в Германии, была судьба евреев Кёнигсберга после прихода к власти нацистов. После 1933 г. число евреев в городе неуклонно сокращалось. Если в 1931г. евреев было более 4 тыс., то уже к 1939 г. их оставалось чуть более полутора тыс. Из всех городских синагог «Хрустальную ночь» с 9 на 10 ноября 1938 г. пережила только одна – синагога ортодоксальной общины. Сотни евреев в этот день были арестованы, еврейский приют был разгромлен, а дети выгнаны на улицу. Службы в единственной уцелевшей синагоге проводились и в 1942 г. для тех немногих, кто остался в городе. Многие эмигрировали, а кто не успел – тех отправляли товарными составами в концентрационные лагеря. К 1942 г. около 1000 евреев из Кёнигсберга погибли в лагере Терезиенштадт. Вместе с людьми исчезали с карты древнего города и места, так или иначе связанные с присутствием здесь евреев. Стадион «Вальтер Симон плац» был переименован в «Эрих Кох плац». Дом, некогда бывший приютом, был отдан под здание гестапо. На месте Новой синагоги были построены бараки, в которых работали на гестапо евреи, привезённые из гетто в Польше. В июле 1944 г. через Кёнигсберг переправляли на баржах евреев из Вильнюсского гетто. Оставшиеся представители еврейской общины города собрали среди горожан большую повозку с продуктами для этих людей. К 1944 г. в Кёнигсберге осталось лишь несколько десятков, которые каждый день ожидали отправки в лагерь. В августе того же года город испытал массированный налёт британской авиации в ходе которого был разрушен весь центр Кёнигсберга. Была уничтожена и последняя синагога.