Semasa serangan keatas Negeri-Negeri Pamah dan Perancis, Tentera Darat Ke-4, sebagai sebahagian daripada Kumpulan Tentera Darat A Kolonel Jeneral Gerd von Rundstedt, menceroboh Belgium daripada Rhineland. Bersama dengan ketumbukan Jerman yang lain, Tentera Darat Ke-4 menembusi Garis Dyle dan siap memerangkap angkatan ketumbukan Bersekutu di Perancis. Mejar Jeneral Erwin Rommel, yang berada dibawah Kluge, banyak menyumbang kepada kemenangan beliau. Kluge, yang merupakan Kolonel Jeneral, telah dinaikkan pangkat ke Fil Marsyal bersama dengan ramai yang lain pada 19 Julai 1940. Tentera Darat Ke-4 mengambil bahagian dalam Operasi Barbarossa pada Jun 1941 sebagai sebahagian daripada Kumpulan Tentera Darat Tengah Fil Marsyal von Bock dan terlibat dalam Pertempuran Minsk dan Pertempuran Smolensk. Pada 19 Disember 1941, Kluge meletakkan jawatan bersama Bock dan Fil Marsyal Walther von Brauchitsch (Panglima Tentera Darat Jerman). Kluge telah digantikan oleh Jeneral Ludwig Kübler.