Al sinds 1675 werden er in de buurt van de Boompjes Joodse erediensten gehouden, maar pas in 1725 werd op deze plek officieel een synagoge ingewijd. Het meest opmerkelijke uiterlijke kenmerk van de synagoge was de klok, die in de vrij hoge voorgevel was gemetseld. In de loop van de tijd verhuisden steeds meer Rotterdamse Joden naar andere delen van de stad, waardoor het aantal bezoekers van de Boompjessynagoge sterk afnam. Hierdoor verloor de synagoge zelfs de status van hoofdsynagoge. Door de grote terugloop was de Joodse gemeenschap zelf van plan de synagoge van de hand te doen. Zover is het echter nooit gekomen, want het bombardement in mei 1940 deed zijn werk.