Han ble født i Wilmersdorf i Berlin, og arbeidet som ung mann som pikkolo på et hotell der, og som utkaster på en kafé. I 1923 gikk han inn i NSDAP. Han tiltrakk seg raskt lederen Ernst Röhms oppmerksomhet, angivelig ikke minst fordi han hadde utseendet med seg, og kom snart inn i Röhms indre krets.