Aquest èxit li valgué ser nomenat nou comandant de la divisió d'elit dels granaders blindats alemanys, la "Großdeutschland" l'1 de febrer de 1944. Al capdavant d'aquesta divisió, donà inici a una llarga sèrie de combats defensius a l'est de Kirovohrad, però va tenir-se que obrir camí a través d'Ucraïna, reorganitzant la divisió a Romania, tot i que els homes de la divisió ja començaven a oferir signes de debilitament. La unitat va ser, per tant, mantinguda en reserva fins a finals de juliol, moment en què se li ordenà traslladar-se cap a la Prússia Oriental, amenaçada per l'avanç de l'Exèrcit Roig, que havia esclafat al Grup d'Exèrcits Centre amb l'Operació Bagration. Von Manteuffel llançà un costós contraatac a Lituània, aconseguint estabilitzar el front. Tanmateix, això no salvà al Grup d'Exèrcits Nord, que quedà aïllat a Curlàndia, després de la derrota patida pel Grup d'Exèrcits Centre.