Von 1938 bis 1939 bekleidete er den Posten des stellvertretenden Generalstabschefs. Von 1939 bis 1941 befehligte er das VIII. Korps, bevor er zum Kommandierenden General der „Karpatengruppe“ (Kárpát Csoport) ernannt wurde, mit der er am Unternehmen Barbarossa teilnahm. Am 6. September wurde er von Staatschef Miklós Horthy zum Nachfolger des deutschfreundlichen Henrik Werth als Chef des Generalstabs ernannt. Szombathelyi beurteilte die Aussichten des Krieges gegen die Sowjetunion skeptisch und scheute sich nicht, das seine deutschen Gegenüber wissen zu lassen. Bereits kurz nach seiner Ernennung war er beim Treffen Hitlers mit Horthy zugegen, als dieser die Entsendung weiterer Truppen versprach. Er zögerte diese Maßnahme aber erfolgreich hinaus, bis sie nach den Rückschlägen der deutschen Armee im Winter 1941/42 und dem verstärkten rumänischen Engagement nicht mehr zu verhindern war. Im April 1942 entsandte er die 2. Armee von Gusztáv Jány an die Ostfront. Zuvor hatte er in Reaktion auf angebliche Anschläge kommunistischer Partisanen und Tschetniks in der annektierten Batschka ein Eingreifen von Militär unter General Ferenc Feketehalmy-Czeydner angeordnet, die sich zu einer Strafaktion gegen serbisch bewohnte Dörfer entwickelte und im Massaker von Novi Sad gipfelte.