Nach Ausbruch des Zweiten Weltkrieges war Diehm von Ende September 1939 bis Anfang Januar 1942 Polizeipräsident in Gdingen und danach in Saarbrücken/Metz. Am 8. September 1943 wurde Diehm zur Dienststelle des Höheren SS- und Polizeiführers Hans-Adolf Prützmann versetzt und war von 9. Oktober 1943 bis Ende Februar 1944 als SS- und Polizeiführer Shitomir tätig. Anschließend war Diehm als SSPF Lemberg bis zum 16. September 1944 eingesetzt. Ab Mitte August 1944 war Diehm noch kurzzeitig beim Höheren SS- und Polizeiführer (HSSPF) Südost als Beauftragter des Reichsverteidigungskommissars beim Festungsbaustab in Kattowitz tätig. Von Ende August 1944 bis September 1944 war Diehm kurzzeitig Kommandeur der 29. Waffen-Grenadier-Division der SS „RONA“ (russische Nr. 1). Vom 19. September 1944 bis Anfang Oktober 1944 vertrat Diehm Friedrich Jeckeln als HSSPF Belgien-Nordfrankreich. Im November 1944 erlitt Diehm eine Kriegsverletzung, aufgrund derer er in ein Lazarett in Berlin verlegt wurde. Ab Januar 1945 fungierte er beim Volkssturm als Inspekteur Südwest und gehörte dem Führungsstab dieser paramilitärischen Organisation an. Im April/Mai 1945 war er SS- und Polizeiführer Salzburg und geriet nach der Schlacht um Wien als Kampftruppenkommandant bei der 6. Armee am 8. Mai 1945 in sowjetische Kriegsgefangenschaft.