כוחותיו המשיכו בהתקדמות לתוך ליטא. באמצע יולי כבשו את וילנה, וב-1 באוגוסט 1944 – גם את קובנה, גרודנו וברסט-ליטובסק. כך נפרצה הדרך לכיבוש פרוסיה המזרחית. על תפקודו במבצע זה הוענק לו בשנית תואר גיבור ברית המועצות. בינואר 1945 פרצו הכוחות בפיקודו לתוך פרוסיה המזרחית, במבצע פרוסיה המזרחית, כבשו את העיר אינסטרבורג, והחלו להתקדם לעבר העיר קניגסברג. ב-18 בפברואר 1945, בעת סיורו בחזית ליד העיר הנצורה, נפצע אנושות מפגיעת רסיס של פגז ומת מפצעיו באותו היום – פחות משבוע לפני שהיו אמורים לענוד לו את דרגת המרשל.