Nazi convaincu, et ne pouvant pas s'engager dans la Wehrmacht car n'étant pas citoyen allemand, Klein s'enrôle dans la Waffen-SS et il est classé dans la SS-Personalhauptamt opérant en Yougoslavie.