Allerede da byen Berlin og Cölln oppstod i det sene 12. århundre fantes det jødiske kjøpmenn i Mark Brandenburg. I skriftlige kilder nevnes jøder i Berlin fra 1295. Jødene måtte i Berlin ikke bo i ghetto, men bodde likevel tett i det såkalte klosterkvartalet, der dagens ligger. I Berlins tidlige historie fantes det ikke noen jødisk gravlund; jødene fra Berlin brukte sammen med jødene fra Spandau Judenkiewer Spandau. Den eldste bevarte gravstenen fra denne gravlunden er fra 1244.