После присоединения Северной Буковины к СССР в 1940 году синагога была конфискована государством и закрыта. 5 июля 1941 года немецкие и румынские войска, сопровождаемые айнзацгруппой 10b, заняли город. Синагогу подожгли, пожар уничтожил внутреннее оформление и облицовку купола. За несколько дней члены айнзацгруппы с помощью румынской полиции уничтожили 2000 евреев, в том числе главного раввина д-ра . Из остального еврейского населения большая часть была депортирована в Транснистрию, где две трети из них умерло; часть была выселена в городское гетто. В конце войны большинство из выживших не возвратилось в советские Черновцы, а поселилось в Румынии и эмигрировало в Израиль.