Pada tahun 1944, Angkatan Darat ke-4 memegang posisi defensif di timur Orsha dan Mogilev di Byelorusia, menempati jembatan melengkung, 25 - 80 mil timur Dnepr. Serangan soviet pada musim panas tahun itu, Operasi Bagration, yang dimulai pada 22 juni, terbukti membawa bencana bagi Wehrmacht, termasuk Angkatan Darat ke-4. Terjadi di timur Minsk dan sebanyak 130.000 orang yang tewas dalam 12 hari sejak awal Bagration. Beberapa unit yang dapat melarikan diri ke arah barat; setelah pertempuran di sisa musim panas, para tentara diharuskan menyusunkan kembali kekuatan. Selama akhir 1944-45, Angkatan Darat ke-4 yang saat itu di bawah pimpinan Friedrich Hoßbach, bertugas memegang perbatasan Prusia Timur. Pada minggu pertama di bulan November di Operasi Gumbinnen, Angkatan Darat ke-4 berhasil memukul pasukan Soviet di semua sektor Gumbinnen tapi hanya berhasil hingga lima belas-mil hingga lima puluh mil dari Prusia Timur wilayah.