Le checkpoint a été nommé d'après la maison Mandelbaum, un bâtiment de trois étages se trouvant à cet endroit de 1927 à 1948. La maison a été construite par un marchand juif nommé Simcha Mandelbaum, qui avait élevé ses dix enfants dans la vieille ville mais qui avait besoin d'une maison avec plus d'espace pour accueillir ses enfants mariés et ses invités. Plutôt que de construire dans des zones plus peuplées comme la Rue Jaffa ou Réhavia, il avait choisi de construire sur un terrain situé au bout de la rue Shmouel HaNavi. Bien que Mandelbaum ait voulu faire un exemple et pousser d'autres Juifs à s'installer dans le secteur de manière à étendre la limite nord de Jérusalem, le Waqf possédait beaucoup de foncier dans la zone et interdisait aux Arabes de vendre plus de terres aux Juifs, la maison était donc isolée. Lors des soulèvements de 1929 et 1936, la Haganah a pris position dans la maison pour repousser les Arabes venant de la porte de Damas et se dirigeant vers les quartiers de Mea Shearim et Beit Yisrael.