Brał udział w ofensywie na Moskwę i bitwie stalingradzkiej. Od maja 1941 do stycznia 1942 roku wykonał 500 lotów. W lutym 1943 roku odbył swój tysięczny lot, po czym został okrzyknięty bohaterem narodowym. Wkrótce potem wybrano go jako jednego z lotników przeznaczonych do służby w eksperymentalnej jednostce wyposażonej w specjalne wersje samolotów Ju 87 G, uzbrojone w działka przeciwpancerne Bordkanone 37 kal. 37 mm. W składzie tej jednostki wykonywał zadania bojowe przeciwko sowieckiej operacji kerczeńsko-eltigeńskiej. Wykonane wtedy zdjęcia z kamery umieszczonej pod skrzydłami maszyny Rudla zostały wykorzystane w kronice "Die Deutsche Wochenschau" przygotowywanej przez Ministerstwo Propagandy i Oświecenia Publicznego. W kwietniu 1943 roku został odznaczony Krzyżem Rycerskim z Liśćmi Dębu. Z tą samą jednostką wziął udział w bitwie na łuku kurskim. Tylko jednego dnia tej bitwy, 12 lipca 1943 roku, zniszczył 12 sowieckich czołgów. W październiku 1943 roku Rudel zniszczył setny czołg, za co otrzymał Miecze do swojego Krzyża Rycerskiego 25 listopada.