Toisen maailmansodan alussa Heusinger oli mukana suunnittelemassa Puolan, Tanskan, Norjan ja Ranskan valloitusta. Elokuussa 1940 hänet ylennettiin everstiksi. Lokakuussa 1940 hän suunnitteli lisää operaatioita yhdessä Franz Halderin ja Friedrich Paulusin kanssa. Ensimmäisen kenraaliksi ylennyksen Heusinger sai vuonna 1942, jolloin hänet ylennettiin kenraalimajuriksi.