Музей відкрився 12 листопада 2002 року у приміщенні колишньої комунальної квартири та заснований Міжнародним єврейським центром за адресою: вул. Мала Арнаутська, 46-а, в будівлі колишньої синагоги рубачів кошерного м'яса. На той час був першим єврейським музеєм на пострадянському просторі.