Som følge av dette ble han utnevnt til sjef for den prominente pansergrenaderdivisjonen «Großdeutschland» 1. februar 1944. Han deltok i en rekke intense forsvarskamper vest for Kirovograd, trakk seg tilbake gjennom Ukraina og reorganiserte sine styrker i Romania i slutten av mars 1944. Deretter ledet han igjen en rekke vellykkede defensiver i det nordlige Romania frem til juli, da den utmattede divisjonen ble overført til reserven for å komme til hektene igjen. I slutten av juli ble divisjonen sendt til Østpreussen, som var truet etter at sovjeterne hadde knust armégruppe sentrum i operasjon Bagration. Her igangsatte han en vellykket, men kostbar motoffensiv mot Den røde armé inn i Litauen. Manteuffel klarte å stabilisere fronten, om enn ikke å trenge inn i Kurland hvor store deler av armégruppe nord var innesperret.