Menigheten i Kaifeng kan dateres til senest Song-dynastiet. På den tid var byen Kinas hovedstad. Den gamle synagogen som fantes i Kaifeng ble bygd i 1163, i Jin-dynastiets tid. Den er nå borte; på stedet ligger nå et sykehus.