Etter en suksessfull periode hos Arsenal med 107 mål på 180 kamper, ble han i juli 1961 kjøpt opp av Manchester United og ble straks en viktig angrepsspiller som var med å vinne FA-cupen i 1963. I finalen mot Leicester City FC scora Herd to av måla i Manchester Uniteds 3–1-seier. Han ble ligamester i 1965 og i 1967 og europacupmester i 1968. I mars 1967 brakk han beinet og han spilte bare åtte kamper i sesongen 1967/68.