Westphal anslöt sig som fanjunkare till den kejserliga armén den 10 november 1918, placerades kort därpå vid 2. brandenburgska grenadjärregementet och uttogs sedan till kadettskolan i Berlin. Den 1 december 1922 blev han löjtnant vid 11. preussiska ryttarregementet, tjänstgjorde på våren 1924 vid 3. troppen vid. 11. preussiska ryttarregementet i Neustadt, tjänstgjorde på våren 1925 inom regementsstaben vid 11. preussiska ryttarregementet, förflyttades på våren 1926 till utbildningstroppen vid nämnda regemente i Ohlau och på våren 1927 placerades han vid 1. preussiska troppen vid 16. ryttarregementet i Erfurt. Han befordrades till överlöjtnant ("oberleutnant") den 1 november 1927, placerades 1932 vid krigsakademin i Berlin, befordrades till ryttmästare den 1 maj 1934, tjänstgjorde i augusti 1935 vid operationsavdelningen inom Generalstab des Heeres, utsågs den 10 november 1938 till befälhavare för 2. troppen vid 13. kavalleriregementet i Lüneburg, blev kort därpå generalstabsofficer vid 58. infanteridivisionen och kom sådan att delta i strider på västfronten. Han lämnade tjänsten i mars 1940, utsågs därpå till generalstabsofficer vid XXVI. armékåren, befordrades därpå till major och var i augusti 1940 ledamot i den tysk-franska vapenstilleståndskommissionen. Vidare befordrades han till överstelöjtnant den 30 januari 1941, placerades i juni 1941 vid afrikanska fronten, utsågs där den 1 september till generalstabsofficer vid pansargrupp Afrika och tilldelades den 19 december samma år Tyska korset i guld. I januari 1942 utsågs Westphal till befälhavare för generalstaben vid pansargrupp Afrika, blev den 30 januari generalstabschef vid pansararmé Afrika och sårades allvarligt av granatsplitter den 1 juni. Han återgick i tjänst i slutet av sommaren, befordrades den 1 augusti till överste, förflyttades den 1 oktober till tysk-italienska pansararmén och blev senare den månaden generalstabschef vid Afrikakåren.