A finales de 1944 fue asignada al III Ejército Panzer para defender el área de Tilsit, pero más tarde se le asignó al IV Ejército para defender Prusia Oriental en la Batalla de Königsberg. Después, la mayor parte de dicho ejército fue cercado y destruido en Heiligenbeil, pero restos de la 21.ª División lograron escapar a través del corredor del Vístula o ser evacuados por vía marítima hasta Schleswig-Holstein.