Det første ble grunnlagt i 1756 i Berlin i Oranienburger Straße. Det ble drevet av den jødiske menigheten, og var på det tidspunktet det eneste sykehuset i Tyskland drevet av jøder. På grunn av plassmangel ble sykehuset i 1861 flyttet til Auguststraße i umiddelbar nærhet av Neue Synagoge, som ble innviet 1866. Den nye sykehusbygningen ble oppført av Eduard Knoblauch i klassisistisk stil. På grunn av sine internasjonalt renommerte leger, moderne behandlingsmetoder og nærheten til universitetssykehuset Charité, ble det jødiske sykehuset ofte kalt .