Diekmann gikk inn i SS i 1936 og ble utdannet ved SS-Junkerschule i Bad Tölz. Han begynte tjeneste i SS-Verfügungstruppe i 1938. I en vurdering fra mai 1944 ble han beskrevet som tapper, dyktig og anstendig og egnet til forfremmelse.