Дитрих је са Хитлеровом личном гардом учествовао у бици за Француску, а нарочито се истакао током напредовања ка Денкерку. Хитлер га је лично, 5. јула 1940. одликовао Витешким крстом. Био је 26. војник који је одликован тим орденом. Јединица под Дитриховом командом је повећана на ниво бригаде, када је одлучено да ће учествовати у нападу на Југославију и бици за Грчку. Дитрих је одржавао такорећи очински однос према својим подређеним током катастрофичне операције Барбароса, када је знао име сваког потчињеног у свом штабу. Његова јединица је 1943. проширена у 1. СС оклопну дивизију. Током повлачења из Русије, након Битке за Стаљинград, успео је седам пута да спасе своју јединицу од опкољавања и потпуног уништења. Одлично се сналазио на борбеној линији, и успевао је да извуче своје јединице чак и из најгорих ситуација, након чега би често организовао снажан противудар.