阿爾貝特·凱塞林
1941年6月，第2俯衝轟炸機聯隊移防至波蘭，為入侵蘇聯的「巴巴羅薩行動」做準備，聯隊本部、第1、第3大隊，被納入沃尔弗拉姆·冯·里希特霍芬指揮的下，其上級單位為阿爾貝特·凱塞林元帥指揮的第2航空隊，負責支援费多尔·冯·博克指揮的中央集團軍的北翼和左翼，目標為攻下蘇聯首都——莫斯科。魯德爾本人在蘇德開戰前不久還駕著Ju 87去科特布斯的飛機檢修所，入侵的消息還是從收音機新聞聽來的。開戰當天，他開著另一架飛機前往英斯特堡（現今切尔尼亚霍夫斯克），後往東南方的拉奇基，加入中尉的第1中隊。6月23日，魯德爾擔任詹森的僚機，終於在當天首次駕駛了俯衝轟炸機升空作戰，一天便在格罗德诺與瓦夫卡維斯克一帶出擊四次。戰鬥開始的頭兩週，第2俯衝轟炸機聯隊都在為對斯摩棱斯克的攻勢提供空中支援。魯德爾不久後被調至上尉指揮的第3大隊下擔任技術軍官（Technischer Offizier），負責大隊上所有技術相關的勤務，包括日常維護、整修和調整。1941年7月18日，魯德爾授封一級鐵十字勳章和金質對地支援前线飞行章。