En la primavera de 1944 participó en la 1.ª Ofensiva de Jassy-Kishinev, un intento del Ejército Rojo que pretendía conquistar Rumanía y que acabó terminando en un importante fracaso. La "Großdeutschland" tuvo una destacada intervención en la 1.ª Batalla de Târgu Frumos, donde logró detener a fuerzas soviéticas mucho más numerosas gracias a sus tácticas de defensa móvil. Para entonces la división se encontraba al mando del teniente general Hasso von Manteuffel, y disponía de 160 tanques, incluyendo 40 "Panther" y 40 "Tigres". En mayo participó en la 2.ª Batalla de Târgu Frumos, donde volvió a detener una ofensiva soviética y combatió por primera vez contra el tanque pesado soviético IS-1, cuya aparición causó un gran impacto entre los alemanes. En otoño de 1944 la "Großdeutschland" se integró junto a la División Brandeburgo en el nuevo "Panzerkorps Großdeutschland". A finales de año hizo frente a las fuerzas soviéticas durante la Ofensiva del Báltico y la Batalla de Memel; en estos combates volvió a sufrir elevadas bajas.