En la primavera de 1944 fue enviada al área de Kowel en la aún ocupada Polonia, donde estuvo apoyando al apaleado Grupo de Ejércitos Sur durante la esperada ofensiva primaveral soviética. Sin embargo, cuando comenzó la Operación Bagration, la cual en realidad estaba dirigida hacia el Grupo de Ejércitos Centro, la división fue forzada a retirarse, junto con todo el Ejército Alemán. Habiendo sido agrupada en el XXXIX cuerpo Panzer bajo el mando del General Karl Decker, la 4ª División se retiró a la región de Varsovia, donde los soviéticos detuvieron su ofensiva debido al estallido del levantamiento de Varsovia. En la Batalla de Wołomin, la 4ª División incluso pudo infligir algunas bajas al III Cuerpo Acorazado soviético.