Grzesinski var sønn av en kvinne ved navn Bertha (1856–1926), datter av Karl Ehlert og Maria Reinke, og vokste opp hos sine besteforeldre. Frem til han i 1892 tok navnet til sin stefar, var hans etternavn Lehmann.