。1941年初，他转入位于格拉茨-塔勒豪夫的Ju 87俯冲轰炸机-补充中队（Ergänzungsstaffel），这是专门训练俯冲轰炸机驾驶员的单位。根据鲁德尔的自述，他在当地终于掌握了双人座俯冲轰炸机——Ju 87的操作。1941年4月中，他被调至驻于希腊的第1大队，但因为先前驾驶能力不良的评价而使他在克里特岛战役只能从事非战斗任务。
苏德战争.1941年6月，第2俯冲轰炸机联队移防至波兰，为入侵苏联的「巴巴罗萨行动」做准备，联队本部、第1、第3大队，被纳入沃尔弗拉姆·冯·里希特