Harpe begynte 28. september 1909 som Fahnenjunker i den prøyssiske hæren. Under første verdenskrig tjenestegjorde han i infanteriet som løytnant og kompanifører.