Em 10 de novembro de 1938, durante os "massacres de novembro", conhecidos como Kristallnacht, o museu foi fechado pela Gestapo, e o inventário do museu foi confiscado. Em 1976, formou-se uma "Sociedade Por um Museu Judeu" e, três anos depois, o Museu de Berlim estabeleceu um departamento judeu em suas instalações. Nessa época, discussões sobre a construção de um novo museu dedicado exclusivamente à história judaica em Berlim já estavam acontecendo.