Mit der Aufstellung des SS-Panzerkorps (später II. SS-Panzerkorps) wurde Ullrich am 2. Juli 1942 Korps-Pionierführer und nahm in dieser Funktion u. a. an der dritten Schlacht bei Charkow teil, bis er am 18. März 1943 von Max Seela abgelöst wurde und zunächst das III. Bataillon des SS-Panzergrenadier-Regiments 5 führte. Für die Leistungen des Bataillons während der Kämpfe im Raum Charkow-Bjelgorod und dem Unternehmen Zitadelle erhielt Ullrich, mittlerweile SS-Obersturmbannführer, am 14. Mai 1944 als 480. Soldat das Eichenlaub zum Ritterkreuz.