Paulus ble i august 1940 utnevnt til generalløytnant og overtok 3. september som overkvartermester i generalstaben under ledelse av Franz Halder. Det betydde i praksis at Paulus ble generalstabens nestkommanderende og den tredje høyeste posisjonen i hæren, under Halder og Walther von Brauchitsch. Han var sentral i planleggingen av Operasjon Barbarossa.