帅指挥的第2航空队，负责支援费多尔·冯·博克指挥的中央集团军的北翼和左翼，目标为攻下苏联首都——莫斯科。鲁德尔本人在苏德开战前不久还驾着Ju 87去科特布斯的飞机检修所，入侵的消息还是从收音机新闻听来的。开战当天，他开着另一架飞机前往英斯特堡（现今切尔尼亚霍夫斯克），后往东南方的拉奇基，加入中尉的第1中队。6月23日，鲁德尔担任詹森的僚机，终于在当天首次驾驶了俯冲轰炸机升空作战，一天便在格罗德诺与瓦夫卡维斯克一带出击四次。战斗开始的头两週，第2俯冲轰炸机联队都在为对斯摩棱斯克的攻势提供空中支援。鲁德尔不久后