Pelantikan Jodl sebagai seorang Mejar dalam bahagian operasi Truppenamt di Markas Tentera Darat pada hari-hari terakhir Republik Weimar meletakkan beliau dibawah pemerintahan Jeneral Ludwig Beck, yang mengiktiraf Jodl sebagai "orang yang mempunyai masa hadapan". Pada September 1939 Jodl memulakan tugas sepenuh masa dengan Adolf Hitler. Dalam membina kekuatan sebelum Perang Dunia II, Jodl telah ditugaskan sebagai "Artilleriekommandeur" Divisyen Ke-44 dari Oktober 1938 hingga Ogos 1939 sewaktu peristiwa Anschluss. Jodl telah dilantik oleh Hitler sebagai "Chef des Wehrmachtführungsstabes im Oberkommando der Wehrmacht" (Ketua Staf Operasi Markas Besar Angkatan Tentera yang baru dibentuk). Jodl bertindak selaku Ketua Turus semasa penjajahan pantas Denmark dan Norway. Sewaktu kempen tersebut, Hitler masuk campur hanya selepas flotila kapal pembinasa Jerman musnah diperairan Narvik dan mahu tentera Jerman disana berundur ke Sweden. Jodl berjaya mengagalkan perintah Hitler. Jodl tidak bersetuju dengan Hitler buat kali kedua semasa serangan musim panas tahun 1942. Hitler menghantar Jodl ke rantau Caucasus untuk melawat Fil Marsyal Wilhelm List bagi mengetahui kenapa telaga minyak disana masih tidak dapat ditawan. Jodl kembali hanya dengan menyokong laporan List yang menyatakan pasukan tentera disana hampir setengah mati berjuang.