Schlegelberger kom fra en protestantisk kjøpmannsfamilie i Königsberg. Han studerte rettsvitenskap i Königsberg og Berlin. Han tok dem juridiske doktorgraden ved universitetet i Leipzig i 1899 og tok den store juridiske statseksamen i 1901.