22 чэрвеня 1941 года ўступіў у вайну на Усходнім фронце, пяройдучы дзяржаўную граніцу СССР. У складзе групы армій «Цэнтр» удзельнічаў у Памежнай бітве ў Беларусі, у Віцебскай бітве, у Смаленскай бітве. Адзін з выканаўцаў грандыёзнага акружэння савецкіх войскаў у Кіеўскай аперацыі. У манеўраных бітвах лета 1941 года дамогся выбітных поспехаў супраць савецкага войска, высунуўся ў лік найбольш вядомых генералаў вермахта. З кастрычніка 1941 года камандаваў 41-м танкавым корпусам 3-й танкавай групы, удзельнічаў у бітве пад Масквой. Калі Гітлер пасля паражэння пад Масквой зняў з пастоў некалькі дзясяткаў сваіх генералаў, Мадэль у студзені 1942 прызначаны на пост камандуючага 9-й арміяй, які вызваліўся.