Taistelun Ranskasta aikana Rall saavutti ensimmäisen ilmavoittonsa, ampuen alas Ranskan ilmavoimien P-36-hävittäjän 18. toukokuuta 1940. Taistelussa Britanniasta, 25. heinäkuuta 1940, Rall sai rykmentin kärsimien raskaiden tappioiden vuoksi komentoonsa lentueen, 8./JG 52:n, jonka päällikkönä hän toimi seuraavan kolmen vuoden ajan. 1. elokuuta 1940 hänet ylennettiin yliluutnantiksi. Taistelun Britanniasta jälkeen JG 52 siirtyi Itävallan kautta suojaamaan Romaniaan öljykenttiä. Keväällä 1941 Rallin johtama lentue taisteli rykmenttinsä mukana Kreetalla, jonka jälkeen rykmentti otti seuraavan kerran osaa taisteluihin operaatio Barbarossan alkaessa.