Rohleder var sønn av en grossist i Stettin. Han var i perioden 1905–1910 på kadettanstalt i Oranienstein.