Karl Wolff hadde allerede i tidlig et ungdomsønske om å bli militær og offiser. Allerede som elev ved Ludwig-Georgs-Gymnasium i Darmstadt tok han som frivillig i en toårig førmilitær utdannelse i (= Nasjonal ungdomshær).