Cả giận trước việc Balck để mất các thành phố lớn của Alsace-Lorraine và nghe theo sự xúi giục của Chỉ huy trưởng lực lượng SS Heinrich Himmler, Hitler tước quyền chỉ huy Cụm tập đoàn G của ông vào ngày 24 tháng 12 năm 1944. Vài tuần trước đó, mâu thuẫn giữa Mellenthin với Đại tướng Heinz Guderian (giờ đây là Tham mưu trưởng Lục quân kiêm Tổng thanh tra Tăng-Thiết giáp) đã dẫn đến việc Mellenthin bị ông này huyền chức và quản thúc tại gia. Tuy nhiên, do Balck là bạn thân cũ của Guderian nên vị Tham mưu trưởng Lục quân đã thuyết phục Hitler giao cho Balck một chức chỉ huy mới thay vì tước quân tịch ông. Một lần nữa, ông được điều sang chiến trường Đông Âu và lãnh nhiệm chức Tư lệnh Cụm tập đoàn quân Balck ở Hungary. Với biên chế bao gồm Tập đoàn quân số 6 được tái lập của Đức và hai tập đoàn quân Hungary, cụm tập đoàn quân của Balck đã căng sức chống đỡ các đợt tấn công của hồng quân Liên Xô trong giai đoạn cuối năm 1944 - đầu năm 1945. Giữa tháng 1 và tháng 2 năm 1945, Balck cố giải vây cho quân đồn trú Đức tại Budapest nhưng bị thất bại. Không thể cự nổi các binh đoàn hùng hậu của Liên Xô, Balck rút đội quân tàn tạ của mình sang hướng tây và đầu hàng Quân đoàn XX Hoa Kỳ tại Áo vào ngày 8 tháng 5 năm 1945.