Jodl, Anschluss (Avusturya'nın ilhakı) sırasında Viyana'ya gönderilerek Ekim 1938 ile Ağustos 1939 tarihleri arasında 44. Tümene bir "Artilleriekommandeur" olarak atandı. 1939'da Tümgeneralliğe terfi ettirilerek Wilhelm Keitel'in kurmay başkanlığına atandı.