En 1939, avec l'entrée de la Wehrmacht en Tchécoslovaquie, il tente d'émigrer en Palestine, mais ne peut le faire. Il meurt en 1941, des suites d'une opération chirurgicale. Sa femme Margaret Schnabel meurt en déportation au camp de Theresienstadt. Leur fils unique, Leo Baum, meurt le à Jérusalem dans l'attaque de l'hôtel King David.