Deretter brøt første verdenskrig ut, og Harder tjenestegjorde ved fronten, der han vant Jernkorset av 1. og 2. klasse. Da han kom tilbake fra krigen, ble han med i Hamburger SV, som ble dannet ved sammenslåingen av Hamburg 1888 og to andre lag. Harder var da en av de beste tyske fotballspillerne i sin tid, og hadde stor suksess både på landslag og i klubblag. En rekke trofeer (tysk mester 1922, 1923 og 1928 som de høyeste) ble vunnet med ham i klubben, og han scoret 378 mål i sin tid i Hamburg, en rekord bare Uwe Seeler har passert i Hamburg. Harder ble så kjent at det ble laget en stumfilm om ham, «Der König der Mittelstürmer», med Paul Richter (som [sic]) og Aud Egede-Nissen i hovedrollene. Harder spilte i klubben til 1931. Deretter trappet han ned i SC Victoria Hamburg.