Tümgeneral rütbesiyle Polonya Seferi'nde Kempf Panzer Tümeni'ne, Fransa Seferi'nde 6. Panzer Tümeni'ne komuta etmiştir. Korgeneralliğe terfi ederek Fransa Seferindeki rolüyle Şövalye Demir Haç madalyası ile ödüllendirildi. 1942'de 48. Panzer Kolordusu'nun komutanı olarak Stalingrad Muharebesi'nden sonraki Kış Fırtınası Harekâtı'na katılmıştır. 1943'te Kempf Ordu Müfrezesi'ne komuta ederek Kursk Muharebesi'ne katılmıştır. Kursk'ta uğranılan başarısızlık ardından Alman kuvvetleri geri çekilmişti. Ardından başlayan Sovyet Komutan Rumyantsev Harekâtı sırasında Harkov'u savunan General Kempf, Hitler'in emrine karşın 22 Ağustos 1943 tarihinde kenti tahliye etmişti. Bunun üzerine Hitler tarafından görevden alınmıştır.