Ipinanganak si Rosenzweig sa Cassel sa isang di-relihyosong pamilyang Hudiyo. Sekular ang malaking bahagi ng kaniyang edukasyon; nag-aral siya ng kasaysayan at pilosopiya sa mga unibersidad ng Göttingen, München, at Freiburg im Breisgau.