约瑟夫·门德尔松于1795年在柏林成立。1804年，他的弟弟加入了公司。1815年，银行搬入了位于柏林猎手街51号的新总部，从而奠定了柏林金融区的基础。 门德尔松银行在1939年被转让前均在此地办公。银行迅速在欧洲崛起。 1850年代始，其一直担任俄罗斯沙皇的皇家银行家，并在中欧金融市场上争夺俄罗斯国债券，直到第一次世界大战为止。门德尔松家族的后代仍经营该公司。银行在1930年代的大萧条中幸免于难。 弗朗兹·冯·门德尔松和保罗·冯·门德尔松于1935年去世后，被任命为该行董事长，这是第一位非家族成员