Johlitz gikk på folkeskole, før han fullførte en læretid som låsesmed. Under første verdenskrig deltok han som frivillig. Mellom 1918 og 1920 var han medlem av et frikorps som bekjempet opprør i Øst-Slesvig. I 1927 bestod han mesterprøven og var ansatt ved motorfabrikken til Friedrich Krupp AG, hvor han ble leder for bedriftsrådet i 1933 og var medlem av tilsynsrådet fra 1933 til 1935.